发明公开
- 专利标题: 针对非独立同分布数据的安全分布式深度学习系统及方法
-
申请号: CN202311399112.4申请日: 2023-10-25
-
公开(公告)号: CN117521126A公开(公告)日: 2024-02-06
- 发明人: 何琨 , 白浩 , 陈晶 , 李雨晴 , 熊翘楚 , 杜瑞颖 , 粟栗 , 吴聪
- 申请人: 武汉大学
- 申请人地址: 湖北省武汉市武昌区八一路299号
- 专利权人: 武汉大学
- 当前专利权人: 武汉大学
- 当前专利权人地址: 湖北省武汉市武昌区八一路299号
- 代理机构: 武汉科皓知识产权代理事务所
- 代理商 肖明洲
- 主分类号: G06F21/62
- IPC分类号: G06F21/62 ; G06F18/23 ; G06V10/764 ; G06V10/82 ; G06N3/0464 ; G06N3/048 ; G06N3/084
摘要:
本发明公开了一种针对非独立同分布数据的安全分布式深度学习系统及方法,系统包括N个客户端和一个服务器;服务器基于客户端的数据分布将所有客户端划分为不同的聚类,使得每个聚类数据大致上符合独立同分布;其次,每个客户端量化其数据集,使得从实数域转换为有限域;然后,在同一聚类中的客户端秘密分享其量化数据集,并将自己拥有的份额进行编码,以解决聚类内部的数据非独立同分布问题;之后,客户端在编码数据集完成本地模型训练,并将计算结果上传至服务器;然后,服务器对不同的聚类进行安全聚合,以得到全局计算结果;最后,客户端解码全局计算结果以安全地更新其本地模型。本发明实现了更准确的模型并且显著加快了模型训练收敛速度。