公开(公告)号：CN114239668A

公开(公告)日：2022-03-25

申请号：CN202010937433.5

申请日：2020-09-08

申请人： 华为技术有限公司 ,  复旦大学

发明人： 苏上超 ,  王勇博 ,  李斌 ,  薛向阳 ,  陈院林 ,  黄一宁

IPC分类号： G06K9/62 ,  G06N3/04 ,  G06N3/08

摘要： 本申请实施例公开了一种模型更新的方法，用于联邦学习场景，针对用户数据分布提出了一种新的加权系数计算方法。本申请实施例方法终端将训练好的模型以及本地数据的分布特征都发给云端，用本地数据的分布特征替代统一的加权系数，用于实现模型聚合，使得聚合后的模型更大程度的保留用户的知识，以提高聚合模型的性能。此外，还提出了模型聚合的策略，对多模型采用分组聚合模式，进一步提升了聚合后模型的性能。

公开(公告)号：CN117746173A

公开(公告)日：2024-03-22

申请号：CN202211103802.6

申请日：2022-09-09

申请人： 复旦大学

发明人： 苏上超 ,  李斌 ,  薛向阳

IPC分类号： G06V10/774 ,  G06N3/0464 ,  G06N3/08 ,  G06V10/25 ,  G06V10/77 ,  G06V10/82

摘要： 本发明提供一种基于知识蒸馏和模型集成的跨域联邦目标检测方法，其特征在于，包括：联合训练步骤，参与联邦学习的多个客户端利用本地的个性化数据，在从服务器获得的基模型的基础上训练本地的个性化检测模型；服务器收集不同的客户端的个性化模型，利用服务器的大量数据，以客户端模型作为教师模型，进行多教师蒸馏，获得聚合模型；模型集成步骤，服务器将聚合模型发送给客户端，客户端对聚合模型进行微调获得个性化模型，并利用聚合模型和个性化模型进行模型集成，即对模型的输出检测框进行加权聚合。本发明能够应对跨域场景下的联合模型检测模型训练问题，有效提升了客户端模型的泛化性。

公开(公告)号：CN117746172A

公开(公告)日：2024-03-22

申请号：CN202211103020.2

申请日：2022-09-09

申请人： 复旦大学

发明人： 苏上超 ,  李斌 ,  薛向阳

IPC分类号： G06V10/774 ,  G06N20/00

摘要： 本发明提供一种基于域差异感知蒸馏的异构模型聚合方法及系统，由于在服务器端采用知识蒸馏算法进行模型聚合，并且客户端本地也支持采用知识蒸馏进行模型训练，因此，可以屏蔽模型结构的差异给联合学习带来的影响；由于在服务器端采用了基于域差异感知的蒸馏算法，可以自适应地为不同教师模型赋予不同的权重，因此，可以缓解不同客户端以及服务器的数据集之间的差异给模型聚合带来的影响。另外，由于本发明支持各种形式的模型异构，即服务器与客户端模型异构、不同客户端之间的模型异构，能够适应更多真实应用场景，更具有实际应用价值。

公开(公告)号：CN117668532A

公开(公告)日：2024-03-08

申请号：CN202211008216.3

申请日：2022-08-22

申请人： 复旦大学 ,  上海新氦类脑智能科技有限公司

发明人： 苏上超 ,  梁龙飞 ,  李斌 ,  薛向阳

IPC分类号： G06F18/214 ,  G06N20/00

摘要： 本发明提供一种基于投影约束模型聚合的隐私保护端云联合机器学习方法，采用联邦学习通过服务器对客户端提供的模型进行聚合，其特征在于，包括步骤：步骤1，采集训练数据获取客户端模型，利用训练好的客户端模型抽取客户端本地数据的中间层特征，以此计算训练好的模型每一层的参数所对应的投影矩阵，使得客户端模型不遗忘知识；步骤2，客户端将训练好的模型的参数和对应的投影矩阵发送给服务器；步骤3，服务器根据收到的模型参数和投影矩阵进行模型聚合，基于多目标优化策略，获取包含不同客户端知识的最优聚合模型，并将该最优聚合模型发送给客户端；步骤4，重复步骤1至步骤3，通过少量轮次通信，从而获取适用于所有客户端数据的全局模型。