针对异构计算平台的神经网络异步训练方法、装置及设备
摘要:
本申请公开了针对异构计算平台的神经网络异步训练方法、装置及设备,方法包括:采用评估数据集对所有普通代理节点的神经网络模型进行训练评估,得模型性能数据;中心代理节点根据模型性能数据构建性能表,并选取最优神经网络模型;以最优神经网络模型所属普通代理节点为起点,基于预设同步原则将对应的模型参数同步至其他普通代理节点,得到同步模型参数;中心代理节点接收普通代理节点根据同步模型参数训练得到的反馈训练结果更新性能表,判断反馈训练结果是否超过训练指标阈值,若是,则训练完成,若否,返回模型的选取步骤。本申请能解决现有技术中的同步等待和较大模型参数量会降低训练速度,而较大训练批次影响模型更新速度的技术问题。
0/0