Apache Pig - Grunt Shell() 命令
调用 Grunt shell 后,您可以在 shell 中运行 Pig 脚本。 除此之外,Grunt shell 还提供了某些有用的 shell 和实用程序命令。 本章介绍 Grunt shell 提供的 shell 和实用程序命令。
注意 − 在本章的某些部分中,使用了诸如Load和Store之类的命令。 请参阅相应章节以获取有关它们的详细信息。
Shell 命令
Apache Pig的Grunt shell主要用于编写Pig Latin脚本。 在此之前,我们可以使用 sh 和 fs 调用任何 shell 命令。
sh 命令
使用sh命令,我们可以从Grunt shell调用任何shell命令。 在 Grunt shell 中使用 sh 命令,我们无法执行 shell 环境中的命令 (ex − cd).
语法
下面给出的是sh命令的语法。
grunt> sh shell command parameters
示例
我们可以使用 sh 选项从 Grunt shell 调用 Linux shell 的 ls 命令,如下所示。 在此示例中,它列出了 /pig/bin/ 目录中的文件。
grunt> sh ls pig pig_1444799121955.log pig.cmd pig.py
fs 命令
使用fs命令,我们可以从Grunt shell调用任何FsShell命令。
语法
下面给出的是fs命令的语法。
grunt> sh File System command parameters
示例
我们可以使用 fs 命令从 Grunt shell 调用 HDFS 的 ls 命令。 在以下示例中,它列出了 HDFS 根目录中的文件。
grunt> fs –ls Found 3 items drwxrwxrwx - Hadoop supergroup 0 2015-09-08 14:13 Hbase drwxr-xr-x - Hadoop supergroup 0 2015-09-09 14:52 seqgen_data drwxr-xr-x - Hadoop supergroup 0 2015-09-08 11:30 twitter_data
In the same way, we can invoke all the other file system shell commands from the Grunt shell using the fs command.
实用程序命令
Grunt shell 提供了一组实用命令。 其中包括实用命令,例如 clear、help、history、quit 和 set; 以及诸如 exec、kill 和 run 之类的命令,用于从 Grunt shell 控制 Pig。 下面给出的是 Grunt shell 提供的实用命令的描述。
clear 命令
clear命令用于清除Grunt shell的屏幕。
语法
您可以使用 clear 命令清除 grunt shell 的屏幕,如下所示。
grunt> clear
help 命令
help 命令为您提供 Pig 命令或 Pig 属性的列表。
用法
您可以使用 help 命令获取 Pig 命令列表,如下所示。
grunt> help Commands: <pig latin statement>; - See the PigLatin manual for details: http://hadoop.apache.org/pig File system commands:fs <fs arguments> - Equivalent to Hadoop dfs command: http://hadoop.apache.org/common/docs/current/hdfs_shell.html Diagnostic Commands:describe <alias>[::<alias] - Show the schema for the alias. Inner aliases can be described as A::B. explain [-script <pigscript>] [-out <path>] [-brief] [-dot|-xml] [-param <param_name>=<pCram_value>] [-param_file <file_name>] [<alias>] - Show the execution plan to compute the alias or for entire script. -script - Explain the entire script. -out - Store the output into directory rather than print to stdout. -brief - Don't expand nested plans (presenting a smaller graph for overview). -dot - Generate the output in .dot format. Default is text format. -xml - Generate the output in .xml format. Default is text format. -param <param_name - See parameter substitution for details. -param_file <file_name> - See parameter substitution for details. alias - Alias to explain. dump <alias> - Compute the alias and writes the results to stdout. Utility Commands: exec [-param <param_name>=param_value] [-param_file <file_name>] <script> - Execute the script with access to grunt environment including aliases. -param <param_name - See parameter substitution for details. -param_file <file_name> - See parameter substitution for details. script - Script to be executed. run [-param <param_name>=param_value] [-param_file <file_name>] <script> - Execute the script with access to grunt environment. -param <param_name - See parameter substitution for details. -param_file <file_name> - See parameter substitution for details. script - Script to be executed. sh <shell command> - Invoke a shell command. kill <job_id> - Kill the hadoop job specified by the hadoop job id. set <key> <value> - Provide execution parameters to Pig. Keys and values are case sensitive. The following keys are supported: default_parallel - Script-level reduce parallelism. Basic input size heuristics used by default. debug - Set debug on or off. Default is off. job.name - Single-quoted name for jobs. Default is PigLatin:<script name> job.priority - Priority for jobs. Values: very_low, low, normal, high, very_high. Default is normal stream.skippath - String that contains the path. This is used by streaming any hadoop property. help - Display this message. history [-n] - Display the list statements in cache. -n Hide line numbers. quit - Quit the grunt shell.
history 命令
此命令显示自调用 Grunt sell 以来迄今为止执行/使用的语句列表。
用法
假设自从打开 Grunt shell 以来我们已经执行了三个语句。
grunt> customers = LOAD 'hdfs://localhost:9000/pig_data/customers.txt' USING PigStorage(','); grunt> orders = LOAD 'hdfs://localhost:9000/pig_data/orders.txt' USING PigStorage(','); grunt> student = LOAD 'hdfs://localhost:9000/pig_data/student.txt' USING PigStorage(',');
然后,使用history命令将产生以下输出。
grunt> history customers = LOAD 'hdfs://localhost:9000/pig_data/customers.txt' USING PigStorage(','); orders = LOAD 'hdfs://localhost:9000/pig_data/orders.txt' USING PigStorage(','); student = LOAD 'hdfs://localhost:9000/pig_data/student.txt' USING PigStorage(',');
set 命令
set命令用于显示/为Pig中使用的键赋值。
用法
使用此命令,您可以为以下键设置值。
关键词 | 描述和值 |
---|---|
default_parallel | 您可以通过将任何整数作为值传递给此键来设置映射作业的减速器数量。 |
debug | 您可以通过将 on/off 传递给此键来关闭或打开 Pig 中的调试功能。 |
job.name | 您可以通过向此键传递字符串值来将作业名称设置为所需的作业。 |
job.priority | 您可以通过将以下值之一传递给此键来设置作业的作业优先级 −
|
stream.skippath | 对于流式传输,您可以通过将所需路径以字符串形式传递给此键来设置不传输数据的路径。 |
quit 命令
您可以使用此命令从 Grunt shell 退出。
用法
从 Grunt shell 退出,如下所示。
grunt> quit
现在让我们看一下可以从 Grunt shell 控制 Apache Pig 的命令。
exec 命令
使用 exec 命令,我们可以从 Grunt shell 执行 Pig 脚本。
语法
下面给出的是实用程序命令 exec 的语法。
grunt> exec [–param param_name = param_value] [–param_file file_name] [script]
示例
假设HDFS的/pig_data/目录下有一个名为student.txt的文件,其内容如下。
Student.txt
001,Rajiv,Hyderabad 002,siddarth,Kolkata 003,Rajesh,Delhi
并且,假设我们在 HDFS 的 /pig_data/ 目录中有一个名为 sample_script.pig 的脚本文件,其内容如下。
Sample_script.pig
student = LOAD 'hdfs://localhost:9000/pig_data/student.txt' USING PigStorage(',') as (id:int,name:chararray,city:chararray); Dump student;
现在,让我们使用 exec 命令从 Grunt shell 执行上述脚本,如下所示。
grunt> exec /sample_script.pig
输出
exec 命令执行 sample_script.pig 中的脚本。 按照脚本中的指示,它将 student.txt 文件加载到 Pig 中,并为您提供显示以下内容的 Dump 运算符的结果。
(1,Rajiv,Hyderabad) (2,siddarth,Kolkata) (3,Rajesh,Delhi)
kill 命令
您可以使用此命令从 Grunt shell 终止作业。
语法
下面给出的是kill命令的语法。
grunt> kill JobId
示例
假设有一个正在运行的 Pig 作业,其 ID 为 Id_0055,您可以使用 kill 命令从 Grunt shell 中终止它,如下所示。
grunt> kill Id_0055
run 命令
您可以使用 run 命令从 Grunt shell 运行 Pig 脚本
语法
下面给出的是run命令的语法。
grunt> run [–param param_name = param_value] [–param_file file_name] script
示例
假设HDFS的/pig_data/目录下有一个名为student.txt的文件,其内容如下。
Student.txt
001,Rajiv,Hyderabad 002,siddarth,Kolkata 003,Rajesh,Delhi
并且,假设我们在本地文件系统中有一个名为 sample_script.pig 的脚本文件,其中包含以下内容。
Sample_script.pig
student = LOAD 'hdfs://localhost:9000/pig_data/student.txt' USING PigStorage(',') as (id:int,name:chararray,city:chararray);
现在,让我们使用 run 命令从 Grunt shell 运行上述脚本,如下所示。
grunt> run /sample_script.pig
您可以使用转储运算符查看脚本的输出,如下所示。
grunt> Dump; (1,Rajiv,Hyderabad) (2,siddarth,Kolkata) (3,Rajesh,Delhi)
注意 − exec 和 run 命令之间的区别在于,如果我们使用 run,则脚本中的语句将在命令历史记录中可用。