公开(公告)号：CN113282411A

公开(公告)日：2021-08-20

申请号：CN202110544084.5

申请日：2021-05-19

申请人： 复旦大学 ,  上海新氦类脑智能科技有限公司

发明人： 黄镔 ,  蔡嘉伟 ,  金怡 ,  郑立荣 ,  邹卓 ,  环宇翔 ,  梁龙飞

IPC分类号： G06F9/50 ,  G06N3/063 ,  G06N3/08

摘要： 本发明涉及人工智能技术领域，具体是一种基于边缘设备的分布式神经网络训练系统，通过IoT边缘设备进行分布式联合训练的方式，以实现对边缘端产生的海量数据进行有效利用的功能；通过对Parameter Server分布式架构下机器学习分布式训练的设备优化组网配置进行以各设备间性能、带宽进行综合配比实现最优配置；通过对训练任务的模型大小、各设备性能和带宽之间进行优化分配，确定目前能最大发挥设备群性能的配置。本发明提供的方法不仅实现了将神经网络训练部署至IoT领域，同时对分布式组网任务配置方面进行了优化，有效地避免了集群间不必要的性能损耗，提高了分布式训练系统的计算性能。

公开(公告)号：CN113282411B

公开(公告)日：2022-03-22

申请号：CN202110544084.5

申请日：2021-05-19

申请人： 复旦大学 ,  上海新氦类脑智能科技有限公司

发明人： 黄镔 ,  蔡嘉伟 ,  金怡 ,  郑立荣 ,  邹卓 ,  环宇翔 ,  梁龙飞

IPC分类号： G06F9/50 ,  G06N3/063 ,  G06N3/08

摘要： 本发明涉及人工智能技术领域，具体是一种基于边缘设备的分布式神经网络训练系统，通过IoT边缘设备进行分布式联合训练的方式，以实现对边缘端产生的海量数据进行有效利用的功能；通过对Parameter Server分布式架构下机器学习分布式训练的设备优化组网配置进行以各设备间性能、带宽进行综合配比实现最优配置；通过对训练任务的模型大小、各设备性能和带宽之间进行优化分配，确定目前能最大发挥设备群性能的配置。本发明提供的方法不仅实现了将神经网络训练部署至IoT领域，同时对分布式组网任务配置方面进行了优化，有效地避免了集群间不必要的性能损耗，提高了分布式训练系统的计算性能。