发明公开
- 专利标题: 针对异构计算平台的神经网络异步训练方法、装置及设备
-
申请号: CN202310722760.2申请日: 2023-06-19
-
公开(公告)号: CN116451777A公开(公告)日: 2023-07-18
- 发明人: 张殷 , 熊仕斌 , 蒋维 , 王俊波 , 李国伟 , 唐琪 , 罗容波 , 范心明 , 郭为斌 , 肖莹莹 , 刘崧 , 王智娇 , 李新 , 董镝 , 宋安琪 , 刘少辉 , 刘昊 , 李兰茵 , 章涛 , 王云飞 , 李雷
- 申请人: 广东电网有限责任公司佛山供电局
- 申请人地址: 广东省佛山市禅城区汾江南路1号
- 专利权人: 广东电网有限责任公司佛山供电局
- 当前专利权人: 广东电网有限责任公司佛山供电局
- 当前专利权人地址: 广东省佛山市禅城区汾江南路1号
- 代理机构: 北京集佳知识产权代理有限公司
- 代理商 郑华丽
- 主分类号: G06N3/098
- IPC分类号: G06N3/098 ; H04L67/10 ; H04L67/56
摘要:
本申请公开了针对异构计算平台的神经网络异步训练方法、装置及设备,方法包括:采用评估数据集对所有普通代理节点的神经网络模型进行训练评估,得模型性能数据;中心代理节点根据模型性能数据构建性能表,并选取最优神经网络模型;以最优神经网络模型所属普通代理节点为起点,基于预设同步原则将对应的模型参数同步至其他普通代理节点,得到同步模型参数;中心代理节点接收普通代理节点根据同步模型参数训练得到的反馈训练结果更新性能表,判断反馈训练结果是否超过训练指标阈值,若是,则训练完成,若否,返回模型的选取步骤。本申请能解决现有技术中的同步等待和较大模型参数量会降低训练速度,而较大训练批次影响模型更新速度的技术问题。
公开/授权文献
- CN116451777B 针对异构计算平台的神经网络异步训练方法、装置及设备 公开/授权日:2023-09-26