公开(公告)号：CN119378641A

公开(公告)日：2025-01-28

申请号：CN202411436501.4

申请日：2024-10-15

Applicant: 重庆大学

Inventor： 胡春强 ,  何云霄 ,  任颖 ,  蔡斌 ,  桑军

IPC: G06N3/094 ,  G06N3/098 ,  G06N3/092 ,  G06N3/096 ,  G06F21/57 ,  G06V10/82 ,  G06V10/94 ,  G06N3/0464

Abstract: 本发明涉及信息安全技术的领域，涉及面向分割学习的中毒攻击防御方法、电子设备以及存储介质，本申请根据攻击者的知识的多少，设计了两种不同的中毒攻击防御方案：白盒场景下的中毒攻击防御和黑盒场景下的中毒攻击防御方法，使得面向分割学习的中毒攻击防御方案能够适用于更多的防御场景，抵御更多场合的中毒攻击，本发明可以提高模型对中毒攻击的防御能力。

公开(公告)号：CN118152769B

公开(公告)日：2024-07-30

申请号：CN202410280922.6

申请日：2024-03-12

Applicant: 重庆大学

Inventor： 胡春强 ,  何云霄 ,  张今革 ,  蔡斌 ,  桑军

IPC: G06F18/21 ,  G06F18/214 ,  G06F18/23213 ,  G06N3/04 ,  G06N3/094

Abstract: 本发明实施例公开了一种面向分割学习模型的鲁棒性评估方法，包括首先构建替代分割学习模型，然后生成匹配数据集训练替代分割学习模型，获得对抗扰动模型，进而对抗扰动模型可以生成具有迁移性的对抗样本数据集，最后通过对抗样本数据集对所述分割学习模型进行评估，得到分割学习模型的对抗鲁棒性评估结果。本发明实施例可以充分利用客户端数据，并实现高负载、高准确度的面向分割学习模型的鲁棒性评测。

公开(公告)号：CN118152769A

公开(公告)日：2024-06-07

申请号：CN202410280922.6

申请日：2024-03-12

Applicant: 重庆大学

Inventor： 胡春强 ,  何云霄 ,  张今革 ,  蔡斌 ,  桑军

IPC: G06F18/21 ,  G06F18/214 ,  G06F18/23213 ,  G06N3/04 ,  G06N3/094

Abstract: 本发明实施例公开了一种面向分割学习模型的鲁棒性评估方法，包括首先构建替代分割学习模型，然后生成匹配数据集训练替代分割学习模型，获得对抗扰动模型，进而对抗扰动模型可以生成具有迁移性的对抗样本数据集，最后通过对抗样本数据集对所述分割学习模型进行评估，得到分割学习模型的对抗鲁棒性评估结果。本发明实施例可以充分利用客户端数据，并实现高负载、高准确度的面向分割学习模型的鲁棒性评测。