请简述 mapreduce 中,combiner,partition 作用?

发布于 2020-01-10 22:27:08
关注者
0
被浏览
3072
1 个回答
  • 面试哥
    面试哥 2020-01-10
    为面试而生,有面试问题,就找面试哥。

    解答:

    combiner是reduce的实现,在map端运行计算任务,减少map端的输出数据。

    作用就是优化。

    但是combiner的使用场景是mapreduce的map输出结果和reduce输入输出一样。

    partition的默认实现是hashpartition,是map端将数据按照reduce个数取余,进行分区,不同的reduce来copy自己的数据。

    partition的作用是将数据分到不同的reduce进行计算,加快计算效果。

知识点
面圈网VIP题库

面圈网VIP题库全新上线,海量真题题库资源。 90大类考试,超10万份考试真题开放下载啦

去下载看看