算子调优五:reduceByKey本地聚合

reduceByKey相较于普通的shuffle操作一个显著的特点就是会进行map端的本地聚合,map端会先对本地的数据进行combine操作,然后将数据写入给下个stage的每个task创建的文件中,也就是在map端,对每一个key对应的value,执行reduceByKey算子函数。reduceByKey算子的执行过程如图2-8所示:

使用reduceByKey对性能的提升如下:

本地聚合后,在map端的数据量变少,减少了磁盘IO,也减少了对磁盘空间的占用;

本地聚合后,下一个stage拉取的数据量变少,减少了网络传输的数据量;

本地聚合后,在reduce端进行数据缓存的内存占用减少;

本地聚合后,在reduce端进行聚合的数据量减少。

基于reduceByKey的本地聚合特征,我们应该考虑使用reduceByKey代替其他的shuffle算子,例如groupByKey。reduceByKey与groupByKey的运行

大数据groupby太慢该如何优化_子函数


大数据groupby太慢该如何优化_数据缓存_02