公开(公告)号：CN114036503A

公开(公告)日：2022-02-11

申请号：CN202111265538.1

申请日：2021-10-28

Applicant: 广州大学

Inventor： 唐可可 ,  乔佳诚 ,  娄添瑞 ,  李树栋 ,  顾钊铨 ,  李默涵 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC: G06F21/55 ,  G06N3/04 ,  G06N3/08

Abstract: 本申请公开了一种迁移攻击方法、装置、电子设备及存储介质，所述方法包括：将原始图像在预设网络模型中传播的每一层输出与所述原始图像对应的初始对抗样本在所述预设网络模型中传播的每一层输出一一对应，获取每一层输出的差值的二范式；根据所述每一层输出的差值的二范式，计算所述初始对抗样本的李雅普诺夫指数；基于所述李雅普诺夫指数，以及所述预设网络模型的损失函数，确定所述初始对抗样本对应的目标函数；基于所述目标函数对所述预设网络模型进行反向传播，以得到原始图像对应的对抗样本。本申请能够稳定生成高迁移性的对抗样本。

公开(公告)号：CN114036503B

公开(公告)日：2024-04-30

申请号：CN202111265538.1

申请日：2021-10-28

Applicant: 广州大学

Inventor： 唐可可 ,  乔佳诚 ,  娄添瑞 ,  李树栋 ,  顾钊铨 ,  李默涵 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC: G06F21/55 ,  G06N3/04 ,  G06N3/084

Abstract: 本申请公开了一种迁移攻击方法、装置、电子设备及存储介质，所述方法包括：将原始图像在预设网络模型中传播的每一层输出与所述原始图像对应的初始对抗样本在所述预设网络模型中传播的每一层输出一一对应，获取每一层输出的差值的二范式；根据所述每一层输出的差值的二范式，计算所述初始对抗样本的李雅普诺夫指数；基于所述李雅普诺夫指数，以及所述预设网络模型的损失函数，确定所述初始对抗样本对应的目标函数；基于所述目标函数对所述预设网络模型进行反向传播，以得到原始图像对应的对抗样本。本申请能够稳定生成高迁移性的对抗样本。

公开(公告)号：CN113838211B

公开(公告)日：2023-07-11

申请号：CN202111081192.X

申请日：2021-09-15

Applicant: 广州大学

Inventor： 唐可可 ,  吴坚鹏 ,  史亚文 ,  苗丁锐博 ,  娄添瑞 ,  顾钊铨 ,  李默涵 ,  李树栋 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC: G06T17/20 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/08

Abstract: 本申请涉及一种3D点云分类攻击防御方法、装置、设备及存储介质，其方法包括获取输入分类模型的原始点云样本，对原始点云样本进行点的删除与扰动；将预处理点云样本输入编码器，基于DGCNN网络结构学习预处理点云样本的几何特征；使特征点云样本的几何特征输入解码器，基于二维规则网格从二维流形空间重构出三维的点云；迭代训练重构点云样本，并限制原始点云样本和重构点云样本之间的距离和重构点云样本中每一点与其预设数量最近邻域点的距离，直至训练的输出样本接近原始点云样本再输出，替换原始点云样本。解决了3D点云神经网络很容易受到对抗性样本攻击的问题。本申请具有改善3D点云神经网络防御性能的效果。

公开(公告)号：CN113837253B

公开(公告)日：2024-01-19

申请号：CN202111080178.8

申请日：2021-09-15

Applicant: 广州大学

Inventor： 唐可可 ,  娄添瑞 ,  史亚文 ,  吴坚鹏 ,  乔佳诚 ,  邱俊杰 ,  顾钊铨 ,  李树栋 ,  李默涵 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC: G06F18/214 ,  G06N3/082 ,  G06N3/0464 ,  G06N3/084

Abstract: 本申请涉及一种单步对抗训练方法、系统、设备、存储介质及产品，其方法包括对干净样本和对应的标签进行FGSM对抗攻击；同时，基于上限值，对待生成的FGSM对抗样本的步长进行裁剪，获取裁剪样本；对干净样本和裁剪样本进行对抗训练，直至所有训练数据完成一次前向计算及反向传播的过程；重复获取干净样本和裁剪样本，并对干净样本和裁剪样本进行对抗训练，直至完成全部的对抗训练，获得模型以防御攻击。解决了现有对抗训练方法鲁棒性差或者用时过长的问题。本申请具有改善对抗训练方法的鲁棒性能和缩短训练时长的效果。

公开(公告)号：CN113838211A

公开(公告)日：2021-12-24

申请号：CN202111081192.X

申请日：2021-09-15

Applicant: 广州大学

Inventor： 唐可可 ,  吴坚鹏 ,  史亚文 ,  苗丁锐博 ,  娄添瑞 ,  顾钊铨 ,  李默涵 ,  李树栋 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC: G06T17/20 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本申请涉及一种3D点云分类攻击防御方法、装置、设备及存储介质，其方法包括获取输入分类模型的原始点云样本，对原始点云样本进行点的删除与扰动；将预处理点云样本输入编码器，基于DGCNN网络结构学习预处理点云样本的几何特征；使特征点云样本的几何特征输入解码器，基于二维规则网格从二维流形空间重构出三维的点云；迭代训练重构点云样本，并限制原始点云样本和重构点云样本之间的距离和重构点云样本中每一点与其预设数量最近邻域点的距离，直至训练的输出样本接近原始点云样本再输出，替换原始点云样本。解决了3D点云神经网络很容易受到对抗性样本攻击的问题。本申请具有改善3D点云神经网络防御性能的效果。

公开(公告)号：CN113837253A

公开(公告)日：2021-12-24

申请号：CN202111080178.8

申请日：2021-09-15

Applicant: 广州大学

Inventor： 唐可可 ,  娄添瑞 ,  史亚文 ,  吴坚鹏 ,  乔佳诚 ,  邱俊杰 ,  顾钊铨 ,  李树栋 ,  李默涵 ,  仇晶 ,  韩伟红 ,  田志宏 ,  殷丽华

IPC: G06K9/62 ,  G06N3/04 ,  G06N3/08

Abstract: 本申请涉及一种单步对抗训练方法、系统、设备、存储介质及产品，其方法包括对干净样本和对应的标签进行FGSM对抗攻击；同时，基于上限值，对待生成的FGSM对抗样本的步长进行裁剪，获取裁剪样本；对干净样本和裁剪样本进行对抗训练，直至所有训练数据完成一次前向计算及反向传播的过程；重复获取干净样本和裁剪样本，并对干净样本和裁剪样本进行对抗训练，直至完成全部的对抗训练，获得模型以防御攻击。解决了现有对抗训练方法鲁棒性差或者用时过长的问题。本申请具有改善对抗训练方法的鲁棒性能和缩短训练时长的效果。