Apache Pig - SUBTRACT() 函数
Pig Latin 的 SUBTRACT() 函数用于减去两个包。 它接受两个包作为输入并返回一个包,其中包含第一个包中不在第二个包中的元组。
语法
下面给出的是 SUBTRACT() 函数的语法。
grunt> SUBTRACT(expression, expression)
示例
假设我们在HDFS目录/pig_data/中有两个文件,分别是emp_sales.txt和emp_bonus.txt,如下所示。 emp_sales.txt包含销售部门员工的详细信息,emp_bonus.txt包含获得奖金的员工详细信息。
emp_sales.txt
1,Robin,22,25000,sales 2,BOB,23,30000,sales 3,Maya,23,25000,sales 4,Sara,25,40000,sales 5,David,23,45000,sales 6,Maggy,22,35000,sales
emp_bonus.txt
1,Robin,22,25000,sales 2,Jaya,23,20000,admin 3,Maya,23,25000,sales 4,Alia,25,50000,admin 5,David,23,45000,sales 6,Omar,30,30000,admin
我们已将这些文件加载到 Pig 中,关系名称分别为 emp_sales 和 emp_bonus。
grunt> emp_sales = LOAD 'hdfs://localhost:9000/pig_data/emp_sales.txt' USING PigStorage(',') as (sno:int, name:chararray, age:int, salary:int, dept:chararray); grunt> emp_bonus = LOAD 'hdfs://localhost:9000/pig_data/emp_bonus.txt' USING PigStorage(',') as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
现在让我们使用 COGROUP 运算符将关系 emp_sales 和 emp_bonus 与键 sno 的记录/元组分组,如下所示 。
grunt> cogroup_data = COGROUP emp_sales by sno, emp_bonus by sno;
使用 DUMP 运算符验证关系 cogroup_data,如下所示。
grunt> Dump cogroup_data; (1,{(1,Robin,22,25000,sales)},{(1,Robin,22,25000,sales)}) (2,{(2,BOB,23,30000,sales)},{(2,Jaya,23,30000,admin)}) (3,{(3,Maya,23,25000,sales)},{(3,Maya,23,25000,sales)}) (4,{(4,Sara,25,40000,sales)},{(4,Alia,25,50000,admin)}) (5,{(5,David,23,45000,sales)},{(5,David,23,45000,sales)}) (6,{(6,Maggy,22,35000,sales)},{(6,Omar,30,30000,admin)})
用一种关系减去另一种关系
现在让我们从 emp_sales 关系中减去 emp_bonus 关系的元组。 生成的关系包含 emp_bonus 中不存在的 emp_sales 元组。
grunt> sub_data = FOREACH cogroup_data GENERATE SUBTRACT(emp_sales, emp_bonus);
验证
使用 DUMP 运算符验证关系 sub_data,如下所示。 emp_sales 关系保存关系 emp_bonus 中不存在的元组。
grunt> Dump sub_data; ({}) ({(2,BOB,23,30000,sales)}) ({}) ({(4,Sara,25,40000,sales)}) ({}) ({(6,Maggy,22,35000,sales)})
以同样的方式,让我们从 emp_bonus 关系中减去 emp_sales 关系,如下所示。
grunt> sub_data = FOREACH cogroup_data GENERATE SUBTRACT(emp_bonus, emp_sales);
使用 Dump 运算符验证 sub_data 关系的内容,如下所示。
grunt> Dump sub_data; ({}) ({(2,Jaya,23,20000,admin)}) ({}) ({(4,Alia,25,50000,admin)}) ({}) ({(6,Omar,30,30000,admin)})
apache_pig_eval_functions.html