一种面向编码MapReduce框架的传输纠错方法及系统

    公开(公告)号:CN116633485A

    公开(公告)日:2023-08-22

    申请号:CN202310349413.X

    申请日:2023-04-04

    Applicant: 南京大学

    Abstract: 本发明公开了一种面向编码MapReduce框架的传输纠错方法及系统。所述方法面向编码MapReduce中Shuffle阶段的传输正确性问题,基于编码MapReduce组播组内多播的特性,在充分利用各个节点本身所具有的冗余中间结果的基础上,通过设计一种全新的分布式编码方案,以组播组为单位对中间文件进行编码以及多播,既充分利用了编码MapReduce所带来的计算冗余,又显著降低了Shuffle阶段进行编码纠错所带来的冗余通信负载,从而将进行传输纠错的MapReduce任务总执行时间降低。

Patent Agency Ranking