公开(公告)号：CN118296650A

公开(公告)日：2024-07-05

申请号：CN202410508800.8

申请日：2024-04-26

Applicant: 哈尔滨工程大学

Inventor： 吕继光 ,  苘大鹏 ,  杨武 ,  韩帅 ,  许晨 ,  王焕然 ,  徐术春 ,  骆昱

IPC: G06F21/62 ,  G06F21/55 ,  G06N3/0475 ,  G06N3/045 ,  G06N3/094 ,  G06N3/098

Abstract: 本发明属于联邦学习框架下的防御技术领域，具体涉及一种基于生成对抗网络和梯度平滑的隐私保护方法、程序、设备及存储介质。本发明主要针对联邦学习架构中利用生成对抗网络发起的梯度泄露攻击进行防御，根据攻击的特点，在客户端部署WGAN，利用WGAN生成的伪数据参与到本地模型的训练中。同时为了防止敌手进行隐私推理攻击，本发明采用了梯度平滑技术，将生成伪数据视觉特征进行破坏，同时保留伪数据的分类特征；其次，为了最小程度的影响本地模型的精度，本发明借用Mix‑up技术，利用客户端本身的隐私数据对经过特征处理的伪数据进行特征修复。使其能够最大限度的保证本地模型的性能，同时又能对梯度泄露攻击进行很好的防御。

公开(公告)号：CN119227750A

公开(公告)日：2024-12-31

申请号：CN202411384517.5

申请日：2024-09-30

Applicant: 哈尔滨工程大学

Inventor： 吕继光 ,  杨武 ,  苘大鹏 ,  王焕然 ,  韩帅 ,  许晨 ,  徐术春 ,  骆昱

IPC: G06N3/0475 ,  G06N3/094 ,  G06N3/098 ,  G06F21/62 ,  G06N3/042

Abstract: 本发明属于人工智能安全技术领域，具体涉及一种基于隐私推理的联邦学习数据中毒攻击系统、方法、程序及存储介质。本发明提供了一种实际的数据中毒攻击模型，减少了攻击假设，保证中毒攻击质量。本发明可以实现在不要求攻击者拥有与良性客户端享有相同分布的验证数据集的情况下实现有效的中毒攻击。本发明通过隐私推理技术，实现了数据获取，并通过数据增强丰富了攻击者数据多样性，最后通过修改数据和真实标签的对应关系实现中毒攻击，大幅度破坏了联邦学习模型的有效性，可部署在基于联邦学习的架构中，并适用于多种分布式机器学习场景。