我正在使用基于hadoop 2.6.0MpaReduce,我想跳过数据文件的前六行,所以我使用

if(key.get()<6)  
   return ;  
else  
   {do ....}  

在我的 map() 函数中

但这是不对的。我发现 map()input key 不是文件行的 offset 。关键是每行长度的总和。为什么?看起来不像很多书上的字。

请您参考如下方法:

If you look at the code ,它是文件的实际字节偏移量而不是行。

如果您想跳过文件的前 n 行,您可能必须编写自己的输入格式/记录阅读器,或者确保在映射器逻辑 ala 中保留一个行计数器:

 int lines = 0; 
 public void map(LongWritable key, Text value, ...) { 
   if(++lines < 6) { return; } 
 
 } 

如果您拆分文本文件(因此有 > 1 个映射器),这显然不起作用。所以写一个专用的 InputFormat 是解决这个问题最干净的方法。

另一个技巧是测量该特定文件中前 n 行的字节数,然后在开头跳过该字节数。


评论关闭
IT虾米网

微信公众号号:IT虾米 (左侧二维码扫一扫)欢迎添加!