公开(公告)号：CN116861478A

公开(公告)日：2023-10-10

申请号：CN202310687003.6

申请日：2023-06-09

Applicant: 国网上海市电力公司 ,  广州大学

Inventor： 孙哲 ,  陶富强 ,  殷丽华 ,  杨志 ,  傅敏杰 ,  沈邵骏 ,  徐易婕

IPC: G06F21/62 ,  G06F16/35 ,  G06V10/764 ,  G06V10/82 ,  G06N3/0442 ,  H02J13/00

Abstract: 本发明提供了一种隐私保护的异构电力数据协同分析方法，服务器通过采用交互式注意力机制捕捉客户端多模态数据中的关联信息，再将高度相关的多模态数据共同建立模型。模型训练和发布的过程中利用差分隐私机制保护模型构建中客户端数据的隐私信息，能够有效防止服务器或者其他潜在攻击者发起的重建攻击和推断攻击，提高良好的用户隐私保护效果；同时基于本发明所提出的一种对称交叉熵损失函数，通过结合交叉熵损失和反向交叉熵损失，减少差分隐私噪声对模型的影响，提高模型的准确率和可用性。

公开(公告)号：CN116204913A

公开(公告)日：2023-06-02

申请号：CN202211562859.2

申请日：2022-12-07

Applicant: 国网上海市电力公司 ,  广州大学

Inventor： 陶富强 ,  孙哲 ,  殷丽华 ,  杨志 ,  王思敏 ,  傅敏杰 ,  沈邵骏 ,  徐易婕

IPC: G06F21/62 ,  G06N20/00 ,  G06F18/22 ,  G06F17/16 ,  G06Q50/06

Abstract: 本发明提出了一种基于多模态电力数据的隐私保护协同分析方法，能够对多模态且无标签的电力数据进行无监督学习，得到各种模态电力数据的多模态特征表示，并通过多视图学习方式对不同模态间的特征进行对齐，得到不同模态中相同的特征表达，再将共同的特征表达上传到中心聚合器中得到最终的电力数据多模态模型。同时能够对多模态且无标签的电力数据进行无监督学习，得到各种模态电力数据的多模态特征表示，并通过多视图学习方式对不同模态间的特征进行对齐，得到不同模态中相同的特征表达，再将共同的特征表达上传到中心聚合器中得到最终的电力数据多模态模型。

公开(公告)号：CN118095356A

公开(公告)日：2024-05-28

申请号：CN202410221149.6

申请日：2024-02-27

Applicant: 广州大学

Inventor： 孙哲 ,  杨志 ,  殷丽华

IPC: G06N3/0455 ,  G06N3/084 ,  G06N3/096

Abstract: 本发明提供一种基于知识蒸馏的平衡化多模态学习方法，包括如下步骤：获取多模态数据，从所述多模态数据中确定第一源模态和第一目标模态；将所述第一源模态经编码得到第二目标模态；将所述第二目标模态经编码得到第二源模态；计算第一源模态与所述第二源模态之间的反向翻译损失，计算第一目标模态与所述第二目标模态之间的正向翻译损失；获得反向中间向量完成下游任务的任务损失；平衡第二目标模态和第二源模态的训练程度，通过自适应调节模态训练平衡化得到蒸馏损失；计算总损失，通过最小化总损失训练模型；重复执行步骤S1‑S7至模型达到预设值。本发明有效缓解了模态间优化不平衡问题，提高模型的整体性能和鲁棒性。