Apache Pig PigStorage()函數(shù)

PigStorage() 函數(shù)將數(shù)據(jù)加載并存儲(chǔ)為結(jié)構(gòu)化文本文件。它采用分隔符，使用它來(lái)將元組的每個(gè)實(shí)體分隔為一個(gè)參數(shù)。默認(rèn)情況下，以'\t'作為參數(shù)。

語(yǔ)法

下面給出了 PigStorage() 函數(shù)的語(yǔ)法。

grunt> PigStorage(field_delimiter)

例

假設(shè)在名為 /data/ 的HDFS目錄中有一個(gè)名為 student_data.txt 的文件，其中包含以下內(nèi)容。

001,Rajiv,Reddy,9848022337,Hyderabad
002,siddarth,Battacharya,9848022338,Kolkata 
003,Rajesh,Khanna,9848022339,Delhi  
004,Preethi,Agarwal,9848022330,Pune 
005,Trupthi,Mohanthy,9848022336,Bhuwaneshwar
006,Archana,Mishra,9848022335,Chennai.

我們可以使用PigStorage函數(shù)加載數(shù)據(jù)，如下所示。

grunt> student = LOAD 'hdfs://localhost:9000/pig_data/student_data.txt' USING PigStorage(',')
   as ( id:int, firstname:chararray, lastname:chararray, phone:chararray, city:chararray );

在上面的例子中，我們已經(jīng)看到過(guò)使用逗號(hào)（','）分隔符。因此，我們使用（,）分隔了記錄的值。

同樣，我們可以使用 PigStorage() 函數(shù)將數(shù)據(jù)存儲(chǔ)到HDFS目錄中，如下所示。

grunt> STORE student INTO ' hdfs://localhost:9000/pig_Output/ ' USING PigStorage (',');

這將把數(shù)據(jù)存儲(chǔ)到給定的目錄中。可以按如下所示驗(yàn)證數(shù)據(jù)。

驗(yàn)證

你可以如下所示驗(yàn)證存儲(chǔ)的數(shù)據(jù)。首先，使用 ls 命令列出名為 pig_output 的目錄中的文件，如下所示。

$ hdfs dfs -ls 'hdfs://localhost:9000/pig_Output/'
 
Found 2 items 
rw-r--r- 1 Hadoop supergroup 0 2015-10-05 13:03 hdfs://localhost:9000/pig_Output/_SUCCESS
 
rw-r--r- 1 Hadoop supergroup 224 2015-10-05 13:03 hdfs://localhost:9000/pig_Output/part-m-00000

可以觀察到在執(zhí)行 Store 語(yǔ)句后創(chuàng)建了兩個(gè)文件。

然后，使用 cat 命令，列出名為 part-m-00000 的文件的內(nèi)容，如下所示。

$ hdfs dfs -cat 'hdfs://localhost:9000/pig_Output/part-m-00000'
  
1,Rajiv,Reddy,9848022337,Hyderabad  
2,siddarth,Battacharya,9848022338,Kolkata  
3,Rajesh,Khanna,9848022339,Delhi  
4,Preethi,Agarwal,9848022330,Pune  
5,Trupthi,Mohanthy,9848022336,Bhuwaneshwar 
6,Archana,Mishra,9848022335,Chennai