-
公开(公告)号:CN117061617A
公开(公告)日:2023-11-14
申请号:CN202311033732.6
申请日:2023-08-16
申请人: 中国人民解放军总医院
IPC分类号: H04L69/04 , G06N3/0464 , G06N3/098
摘要: 本发明提供一种基于联邦深度学习的稀疏化通信方法及系统,该方法包括如下步骤:获取参与联邦学习的服务器所传输的聚合梯度,并统计传输轮次;若传输轮次达到融合轮次,则基于聚合梯度并使用预设的客户端数据集训练预设的客户端训练模型,得到客户端训练模型的全局梯度;将全局梯度上传至服务器以参与服务器的梯度聚合;若传输轮次未达到融合轮次,则基于聚合梯度并使用客户端数据集训练客户端训练模型,得到客户端训练模型的局部梯度;利用稀疏算法将局部梯度稀疏化,得到局部稀疏化梯度;将局部稀疏化梯度上传至服务器以参与服务器的梯度聚合。本发明采用局部更新结合异步融合的方式,可以起到稳定模型更新方向以及保证模型收敛性的效果。
-
公开(公告)号:CN117216596B
公开(公告)日:2024-04-30
申请号:CN202311035419.6
申请日:2023-08-16
申请人: 中国人民解放军总医院
IPC分类号: G06F18/23 , G06F18/214 , G06N3/0464 , G06N3/044 , G06N3/098
摘要: 本发明提供一种基于梯度聚类的联邦学习优化通信方法、系统及存储介质,该方法包括如下步骤:接收服务端所发送的初始学习模型和聚合梯度;结合所述聚合梯度和预设的本地数据集对所述初始学习模型进行本地训练,得到本地训练模型,并计算得到所述本地训练的梯度参数;基于所述本地训练模型并通过微分稀疏正则化器归纳出所述梯度参数的类簇结构,得到压缩梯度参数;将所述压缩梯度参数传输至所述服务端。本发明具有优化联邦学习通信且不容易影响模型精度的效果。
-
公开(公告)号:CN117370933A
公开(公告)日:2024-01-09
申请号:CN202311434500.1
申请日:2023-10-31
申请人: 中国人民解放军总医院
IPC分类号: G06F18/25 , G06F18/213 , G06F18/24 , G16H50/70
摘要: 本发明提供一种多模态统一特征提取方法、装置、设备及介质,该多模态统一特征提取方法包括:获取多模态目标医疗数据;根据目标医疗数据的模态,采用特征提取模型对目标医疗数据执行提取,得到第一特征提取结果;通过第一特征提取结果对缺失特征进行补全,得到第二特征提取结果;对第二特征结果进行融合,得到融合特征;对融合特征进行识别,得到目标医疗数据的医疗特征识别结果。本发明的有益效果为:将多模态数据,通过专家知识的大模型提示工程,诱导大模型产生相应的特征,并进行循环聚合,使不同模态的数据融合成统一的表示,实现了医疗多模态数据间融合和补全,提高了医疗数据特征提取及识别的稳定性和准确性。
-
公开(公告)号:CN118412043A
公开(公告)日:2024-07-30
申请号:CN202410523567.0
申请日:2024-04-28
申请人: 中国人民解放军总医院
IPC分类号: G16B40/00 , G16B20/20 , G16B50/30 , G16H50/70 , G06N3/0464 , G06N3/045 , G06N3/096 , G06N3/0985 , G06F18/15 , G06F18/25 , G06F18/22 , G06N3/048
摘要: 本发明涉及一种癌症干预反应预测模型的训练方法和装置,包括:获取训练样本数据;将训练样本数据输入到癌症干预反应预测模型中,并依次经由癌症干预反应预测模型的编码模块、构建提取模块和预测模块进行处理,得到相应的癌症干预反应训练结果;基于癌症干预反应训练结果,构建目标损失函数,并基于目标损失函数对癌症干预反应预测模型进行训练,得到训练好的癌症干预反应预测模型,从而通过对癌症干预反应预测模型的训练方法进行改进,提高了模型的预测精度。
-
公开(公告)号:CN117370933B
公开(公告)日:2024-05-07
申请号:CN202311434500.1
申请日:2023-10-31
申请人: 中国人民解放军总医院
IPC分类号: G06F18/25 , G06F18/213 , G06F18/24 , G16H50/70
摘要: 本发明提供一种多模态统一特征提取方法、装置、设备及介质,该多模态统一特征提取方法包括:获取多模态目标医疗数据;根据目标医疗数据的模态,采用特征提取模型对目标医疗数据执行提取,得到第一特征提取结果;通过第一特征提取结果对缺失特征进行补全,得到第二特征提取结果;对第二特征结果进行融合,得到融合特征;对融合特征进行识别,得到目标医疗数据的医疗特征识别结果。本发明的有益效果为:将多模态数据,通过专家知识的大模型提示工程,诱导大模型产生相应的特征,并进行循环聚合,使不同模态的数据融合成统一的表示,实现了医疗多模态数据间融合和补全,提高了医疗数据特征提取及识别的稳定性和准确性。
-
公开(公告)号:CN117216596A
公开(公告)日:2023-12-12
申请号:CN202311035419.6
申请日:2023-08-16
申请人: 中国人民解放军总医院
IPC分类号: G06F18/23 , G06F18/214 , G06N3/0464 , G06N3/044 , G06N3/098
摘要: 本发明提供一种基于梯度聚类的联邦学习优化通信方法、系统及存储介质,该方法包括如下步骤:接收服务端所发送的初始学习模型和聚合梯度;结合所述聚合梯度和预设的本地数据集对所述初始学习模型进行本地训练,得到本地训练模型,并计算得到所述本地训练的梯度参数;基于所述本地训练模型并通过微分稀疏正则化器归纳出所述梯度参数的类簇结构,得到压缩梯度参数;将所述压缩梯度参数传输至所述服务端。本发明具有优化联邦学习通信且不容易影响模型精度的效果。
-
公开(公告)号:CN116933866A
公开(公告)日:2023-10-24
申请号:CN202311035140.8
申请日:2023-08-16
申请人: 中国人民解放军总医院
IPC分类号: G06N3/098 , G06F21/62 , G06V10/74 , G06V10/762 , G06V10/764 , G06V10/774 , G06V10/82
摘要: 本发明提供一种针对数据异质性的个性化联邦学习方法、系统及存储介质,该方法包括如下步骤:服务端将初始学习模型发送至客户端;服务端根据所有客户端的数据分布相似性对客户端进行聚类,生成客户端的相似性网络图;客户端进行本地迭代训练,得到训练梯度和第一权重参数进行训练更新后的第一更新参数;服务端计算所有客户端上传的第一更新参数的平均值,得到第一平均更新参数;服务端自动更新迭代初始学习模型,并得到第二权重参数更新后的第二更新参数;服务端更新初始学习模型;重复上述步骤直至模型损失函数收敛,得到联邦学习模型。本发明具有在实现个性化联邦学习的基础上不违反客户端隐私保护的效果。
-
-
-
-
-
-