公开(公告)号：CN114036503B

公开(公告)日：2024-04-30

申请号：CN202111265538.1

申请日：2021-10-28

申请人： 广州大学

发明人： 唐可可 ,  乔佳诚 ,  娄添瑞 ,  李树栋 ,  顾钊铨 ,  李默涵 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC分类号： G06F21/55 ,  G06N3/04 ,  G06N3/084

摘要： 本申请公开了一种迁移攻击方法、装置、电子设备及存储介质，所述方法包括：将原始图像在预设网络模型中传播的每一层输出与所述原始图像对应的初始对抗样本在所述预设网络模型中传播的每一层输出一一对应，获取每一层输出的差值的二范式；根据所述每一层输出的差值的二范式，计算所述初始对抗样本的李雅普诺夫指数；基于所述李雅普诺夫指数，以及所述预设网络模型的损失函数，确定所述初始对抗样本对应的目标函数；基于所述目标函数对所述预设网络模型进行反向传播，以得到原始图像对应的对抗样本。本申请能够稳定生成高迁移性的对抗样本。

公开(公告)号：CN113837253A

公开(公告)日：2021-12-24

申请号：CN202111080178.8

申请日：2021-09-15

申请人： 广州大学

发明人： 唐可可 ,  娄添瑞 ,  史亚文 ,  吴坚鹏 ,  乔佳诚 ,  邱俊杰 ,  顾钊铨 ,  李树栋 ,  李默涵 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC分类号： G06K9/62 ,  G06N3/04 ,  G06N3/08

摘要： 本申请涉及一种单步对抗训练方法、系统、设备、存储介质及产品，其方法包括对干净样本和对应的标签进行FGSM对抗攻击；同时，基于上限值，对待生成的FGSM对抗样本的步长进行裁剪，获取裁剪样本；对干净样本和裁剪样本进行对抗训练，直至所有训练数据完成一次前向计算及反向传播的过程；重复获取干净样本和裁剪样本，并对干净样本和裁剪样本进行对抗训练，直至完成全部的对抗训练，获得模型以防御攻击。解决了现有对抗训练方法鲁棒性差或者用时过长的问题。本申请具有改善对抗训练方法的鲁棒性能和缩短训练时长的效果。

公开(公告)号：CN113837253B

公开(公告)日：2024-01-19

申请号：CN202111080178.8

申请日：2021-09-15

申请人： 广州大学

发明人： 唐可可 ,  娄添瑞 ,  史亚文 ,  吴坚鹏 ,  乔佳诚 ,  邱俊杰 ,  顾钊铨 ,  李树栋 ,  李默涵 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC分类号： G06F18/214 ,  G06N3/082 ,  G06N3/0464 ,  G06N3/084

摘要： 本申请涉及一种单步对抗训练方法、系统、设备、存储介质及产品，其方法包括对干净样本和对应的标签进行FGSM对抗攻击；同时，基于上限值，对待生成的FGSM对抗样本的步长进行裁剪，获取裁剪样本；对干净样本和裁剪样本进行对抗训练，直至所有训练数据完成一次前向计算及反向传播的过程；重复获取干净样本和裁剪样本，并对干净样本和裁剪样本进行对抗训练，直至完成全部的对抗训练，获得模型以防御攻击。解决了现有对抗训练方法鲁棒性差或者用时过长的问题。本申请具有改善对抗训练方法的鲁棒性能和缩短训练时长的效果。

公开(公告)号：CN113780123B

公开(公告)日：2023-08-08

申请号：CN202111001380.7

申请日：2021-08-27

申请人： 广州大学

发明人： 顾钊铨 ,  罗慧丽 ,  陈植钦 ,  谢文嵘 ,  胡卫雄 ,  吴坚鹏 ,  史亚文 ,  乔佳诚 ,  王乐 ,  田志宏 ,  唐可可 ,  张登辉

IPC分类号： G06V40/16 ,  G06V10/25 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/08

摘要： 本发明公开了一种对抗样本生成方法、系统、计算机设备和存储介质，所述方法包括：对原始人脸图像进行人脸关键点检测，得到人脸的关键点，根据所述关键点构成的掩码区域，得到相对应的掩码矩阵；将原始人脸图像和经过初始化的干扰噪声输入神经网络进行训练，得到第一干扰噪声；将所述第一干扰噪声与所述掩码矩阵相乘，得到干扰区域限制的第二干扰噪声，对所述第二干扰噪声进行高斯滤波，得到第三干扰噪声；将所述第三干扰噪声与所述原始人脸图像相叠加，得到对抗样本；根据预设的迭代条件对所述对抗样本进行多轮迭代计算，得到最终的对抗样本。本发明能够更加精准地实现局部攻击的对抗样本生成效果，提高了人脸对抗样本的抗感知能力和抗检测能力。

公开(公告)号：CN114036503A

公开(公告)日：2022-02-11

申请号：CN202111265538.1

申请日：2021-10-28

申请人： 广州大学

发明人： 唐可可 ,  乔佳诚 ,  娄添瑞 ,  李树栋 ,  顾钊铨 ,  李默涵 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC分类号： G06F21/55 ,  G06N3/04 ,  G06N3/08

摘要： 本申请公开了一种迁移攻击方法、装置、电子设备及存储介质，所述方法包括：将原始图像在预设网络模型中传播的每一层输出与所述原始图像对应的初始对抗样本在所述预设网络模型中传播的每一层输出一一对应，获取每一层输出的差值的二范式；根据所述每一层输出的差值的二范式，计算所述初始对抗样本的李雅普诺夫指数；基于所述李雅普诺夫指数，以及所述预设网络模型的损失函数，确定所述初始对抗样本对应的目标函数；基于所述目标函数对所述预设网络模型进行反向传播，以得到原始图像对应的对抗样本。本申请能够稳定生成高迁移性的对抗样本。

公开(公告)号：CN113780123A

公开(公告)日：2021-12-10

申请号：CN202111001380.7

申请日：2021-08-27

申请人： 广州大学

发明人： 顾钊铨 ,  罗慧丽 ,  陈植钦 ,  谢文嵘 ,  胡卫雄 ,  吴坚鹏 ,  史亚文 ,  乔佳诚 ,  王乐 ,  田志宏 ,  唐可可 ,  张登辉

IPC分类号： G06K9/00 ,  G06K9/32 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

摘要： 本发明公开了一种对抗样本生成方法、系统、计算机设备和存储介质，所述方法包括：对原始人脸图像进行人脸关键点检测，得到人脸的关键点，根据所述关键点构成的掩码区域，得到相对应的掩码矩阵；将原始人脸图像和经过初始化的干扰噪声输入神经网络进行训练，得到第一干扰噪声；将所述第一干扰噪声与所述掩码矩阵相乘，得到干扰区域限制的第二干扰噪声，对所述第二干扰噪声进行高斯滤波，得到第三干扰噪声；将所述第三干扰噪声与所述原始人脸图像相叠加，得到对抗样本；根据预设的迭代条件对所述对抗样本进行多轮迭代计算，得到最终的对抗样本。本发明能够更加精准地实现局部攻击的对抗样本生成效果，提高了人脸对抗样本的抗感知能力和抗检测能力。