Apache Pig - SUM() 函数
您可以使用 Pig Latin 的 SUM() 函数来获取单列包中某一列的数值总和。 计算总计时,SUM() 函数会忽略 NULL 值。
注意 −
要获得全局总和值,我们需要执行Group All操作,并使用SUM()函数计算总和值。
要获取组的总和值,我们需要使用 Group By 运算符对其进行分组,并继续执行 sum 函数。
语法
下面给出的是 SUM() 函数的语法。
grunt> SUM(expression)
示例
假设我们在 HDFS 目录 /pig_data/ 中有一个名为 employee.txt 的文件,如下所示。
employee.txt
1,John,2007-01-24,250 2,Ram,2007-05-27,220 3,Jack,2007-05-06,170 3,Jack,2007-04-06,100 4,Jill,2007-04-06,220 5,Zara,2007-06-06,300 5,Zara,2007-02-06,350
我们已将此文件加载到 Pig 中,关系名称为 employee_data,如下所示。
grunt> employee_data = LOAD 'hdfs://localhost:9000/pig_data/ employee.txt' USING PigStorage(',') as (id:int, name:chararray, workdate:chararray, daily_typing_pages:int);
计算所有 GPA 的总和
为了演示 SUM() 函数,我们尝试计算所有员工每天键入的总页数。 我们可以使用 Apache Pig 的内置函数 SUM() (区分大小写)来计算数值的总和。 让我们使用Group All运算符对关系employee_data进行分组,并将结果存储在名为employee_group的关系中,如下所示。
grunt> employee_group = Group employee_data all;
它将产生如下所示的关系。
grunt> Dump employee_group; (all,{(5,Zara,2007-02-06,350), (5,Zara,2007-06-06,300), (4,Jill,2007-0406,220), (3,Jack,2007-04-06,100), (3,Jack,2007-05-06,170), (2,Ram,2007-0527,220), (1,John,2007-01-24,250)})
现在让我们计算每天输入的页面的全局总和。
grunt> student_workpages_sum = foreach employee_group Generate (employee_data.name,employee_data.daily_typing_pages),SUM(employee_data.daily_typing_pages);
验证
使用 DUMP 运算符验证关系 student_workpages_sum,如下所示。
grunt> Dump student_workpages_sum;
输出
它将产生以下输出,显示关系student_workpages_sum的内容,如下所示。
(({ (Zara), (Zara), (Jill) ,(Jack) , (Jack) , (Ram) , (John) }, { (350) , (300) , (220) ,(100) , (170) , (220) , (250) }),1610)
apache_pig_eval_functions.html