hadoop的TextInputFormat作用是什么,如何自定义实现?

发布于 2020-01-10 22:27:09
关注者
0
被浏览
599
1 个回答
  • 面试哥
    面试哥 2020-01-10
    为面试而生,有面试问题,就找面试哥。

    InputFormat会在map操作之前对数据进行两方面的预处理。 1是getSplits,返回的是InputSplit数组,对数据进行split分片,每片交给map操作一次 。 2是getRecordReader,返回的是RecordReader对象,对每个split分片进行转换为key-value键值对格式传递给map。 常用的InputFormat是TextInputFormat,使用的是LineRecordReader对每个分片进行键值对的转换,以行偏移量作为键,行内容作为值。 自定义类继承InputFormat接口,重写createRecordReader和isSplitable方法 。 在createRecordReader中可以自定义分隔符。

     

知识点
面圈网VIP题库

面圈网VIP题库全新上线,海量真题题库资源。 90大类考试,超10万份考试真题开放下载啦

去下载看看