Apache Pig - PluckTuple() 函数
在执行连接等操作来区分两个模式的列后,我们使用函数PluckTuple()。 要使用此函数,首先,我们必须定义一个字符串前缀,并且必须过滤关系中以该前缀开头的列。
语法
下面给出的是 PluckTuple() 函数的语法。
DEFINE pluck PluckTuple(expression1) DEFINE pluck PluckTuple(expression1,expression3) pluck(expression2)
示例
假设我们在HDFS目录/pig_data/中有两个文件,即emp_sales.txt和emp_bonus.txt。 emp_sales.txt包含销售部门员工的详细信息,emp_bonus.txt包含获得奖金的员工详细信息。
emp_sales.txt
1,Robin,22,25000,sales 2,BOB,23,30000,sales 3,Maya,23,25000,sales 4,Sara,25,40000,sales 5,David,23,45000,sales 6,Maggy,22,35000,sales
emp_bonus.txt
1,Robin,22,25000,sales 2,Jaya,23,20000,admin 3,Maya,23,25000,sales 4,Alia,25,50000,admin 5,David,23,45000,sales 6,Omar,30,30000,admin
我们已将这些文件加载到 Pig 中,关系名称分别为 emp_sales 和 emp_bonus。
grunt> emp_sales = LOAD 'hdfs://localhost:9000/pig_data/emp_sales.txt' USING PigStorage(',') as (sno:int, name:chararray, age:int, salary:int, dept:chararray); grunt> emp_bonus = LOAD 'hdfs://localhost:9000/pig_data/emp_bonus.txt' USING PigStorage(',') as (sno:int, name:chararray, age:int, salary:int, dept:chararray);
使用join运算符连接这两个关系,如下所示。
grunt> join_data = join emp_sales by sno, emp_bonus by sno;
使用Dump运算符验证关系join_data。
grunt> Dump join_data; (1,Robin,22,25000,sales,1,Robin,22,25000,sales) (2,BOB,23,30000,sales,2,Jaya,23,20000,admin) (3,Maya,23,25000,sales,3,Maya,23,25000,sales) (4,Sara,25,40000,sales,4,Alia,25,50000,admin) (5,David,23,45000,sales,5,David,23,45000,sales) (6,Maggy,22,35000,sales,6,Omar,30,30000,admin)
使用 PluckTuple() 函数
现在,使用 PluckTupe() 函数定义用于区分列的所需表达式。
grunt> DEFINE pluck PluckTuple('a::');
过滤 join_data 关系中的列,如下所示。
grunt> data = foreach join_data generate FLATTEN(pluck(*));
描述名为data的关系,如下所示。
grunt> Describe data; data: {emp_sales::sno: int, emp_sales::name: chararray, emp_sales::age: int, emp_sales::salary: int, emp_sales::dept: chararray, emp_bonus::sno: int, emp_bonus::name: chararray, emp_bonus::age: int, emp_bonus::salary: int, emp_bonus::dept: chararray}
由于我们将表达式定义为 "a::",因此 emp_sales 架构的列将被选取为 emp_sales::column name,emp_bonus 架构的列将被选取为 emp_bonus::column name
apache_pig_eval_functions.html