-
公开(公告)号:WO2020113782A1
公开(公告)日:2020-06-11
申请号:PCT/CN2019/071857
申请日:2019-01-16
Applicant: 清华大学深圳研究生院
IPC: G06N20/00
Abstract: 一种基于数据分布的机器深度学习方法,根据每个节点拥有数据的数量与种类,对该节点在训练过程中的重要程度进行评估,用于指导传输与模型的整合;并根据参与节点的数据分布情况,让训练过程中各个节点的传输频率不一致,使得数据分布情况较好的节点尽可能多地传播自己的模型,反之则更多地接收其他节点的模型。不但降低了数据分布不平衡对训练结果带来的影响,并且由于数据分布情况较差的节点尽可能少地传播自己的模型,所以可在不影响训练效果的情况下,降低网络传输。
-
公开(公告)号:WO2022126621A1
公开(公告)日:2022-06-23
申请号:PCT/CN2020/137677
申请日:2020-12-18
Applicant: 清华大学
Abstract: 一种零缓冲流水的可重构处理单元阵列及零缓冲流水方法,零缓冲流水的可重构处理单元阵列PEA中的处理单元PE之间的数据传输、PE对PE中的局部寄存器LR的读写、PEA对PEA中全局寄存器GR和共享存储器SM的访问不经过先进先出存储器FIFO,采用包含有停顿周期数的配置信息在可重构处理器上对运算算子进行静态调度,基于所述停顿周期数确定每个运算算子所对应的PE的启动时间,实现零缓冲流水。通过配置信息的软件定义方式,利用停顿周期数从而忽略了FIFO的开销,减少了数据传输和处理的延迟,也因此极大的提高了数据传输、数据处理的效率。
-