模型参数融合方法及装置
Abstract:
本发明实施例提供一种模型参数融合方法及装置,应用于机器学习系统,机器学习系统包括至少一个参数收集组和至少一个参数分发组,每个参数收集组对应至少一个参数分发组,涉及机器学习领域,用于解决模型参数融合中对参数服务器性能要求高、数据传输量大和动态调整计算资源的问题。该方法包括:在任一参数收集组满足组内融合条件时,融合参数收集组中M个节点的模型参数,得到该参数收集组的第一模型参数,其中,参数收集组最低融合节点数s≤M≤参数收集组包含节点的总个数;向参数收集组对应的参数分发组中的N个节点发送参数收集组的第一模型参数,其中,1≤N≤参数收集组对应的参数分发组包含节点的总个数。
Public/Granted literature
Patent Agency Ranking
0/0