hadoop的TextInputFormat作用是什么，如何自定义实现
发布于 2020-01-10 22:27:08
关注者
0
被浏览
628
1 个回答
-
InputFormat会在map操作之前对数据进行两方面的预处理 1是getSplits，返回的是InputSplit数组，对数据进行split分片，每片交给map操作一次 2是getRecordReader，返回的是RecordReader对象，对每个split分片进行转换为key-value键值对格式传递给map
常用的InputFormat是TextInputFormat，使用的是LineRecordReader对每个分片进行键值对的转换，以行偏移量作为键，行内容作为值
自定义类继承InputFormat接口，重写createRecordReader和isSplitable方法 在createRecordReader中可以自定义分隔符
