公开(公告)号：CN114330652B

公开(公告)日：2024-10-15

申请号：CN202111580489.0

申请日：2021-12-22

申请人： 杭州师范大学

发明人： 孙军梅 ,  袁珑 ,  李秀梅

IPC分类号： G06V10/25 ,  G06V10/32 ,  G06V10/34 ,  G06V10/30 ,  G06V10/764 ,  G06V10/74 ,  G06V10/82 ,  G06V10/774

摘要： 本发明提出了一种目标检测攻击方法和装置。通过将对抗样本由传统的优化机制转化为生成机制，大大缩短了生成对抗样本所需要的时间，同时训练好了GAN网络以后不再需要访问模型内部，能有效进行黑盒攻击。提出的方法能有效利用目标模型输出的分类和位置回归损失有效指导网络的训练，同时引入特征层损失能够有效捕捉图片在高维空间对网络较为敏感的特征，并对其进行扰动能进一步提高攻击成功率。另外加入的高斯滤波模块，可以去除对抗样本的高维扰动，留下低维扰动，并且提高生成对抗样本的图片质量，并进一步增强其攻击成功率。

公开(公告)号：CN114926708B

公开(公告)日：2024-10-15

申请号：CN202210579459.6

申请日：2022-05-25

申请人： 杭州师范大学

发明人： 孙军梅 ,  袁珑 ,  李秀梅

IPC分类号： G06V10/774 ,  G06V10/82 ,  G06V10/44 ,  G06N3/084

摘要： 本发明针对目标检测现有攻击方法可迁移性差这个问题，提出一种结合低频信息和特征的目标检测对抗攻方法和装置。在传统的基于梯度的对抗攻击方法上，通过增加特征图对抗损失来增强对抗样本的迁移性。同时从频域的角度，引入低频扰动的对抗损失作为优化函数，来控制低频扰动的扰动方向，从而进一步提高对抗样本的黑盒攻击性能。同时为了优化损失，通过使用基于梯度的类激活映射技术得到包含图像关键特征的注意力权重矩阵，对生成的扰动进一步处理，约束扰动的生成范围，减少冗余噪声的生成，从而提高对抗样本的攻击性能。本发明方法与现有的攻击方法相比，不仅在白盒攻击性能上优异，同时针对黑盒模型的攻击也有更高的攻击效果。

公开(公告)号：CN114926708A

公开(公告)日：2022-08-19

申请号：CN202210579459.6

申请日：2022-05-25

申请人： 杭州师范大学

发明人： 孙军梅 ,  袁珑 ,  李秀梅

IPC分类号： G06V10/774 ,  G06V10/82 ,  G06V10/44 ,  G06N3/08

摘要： 本发明针对目标检测现有攻击方法可迁移性差这个问题，提出一种结合低频信息和特征的目标检测对抗攻方法和装置。在传统的基于梯度的对抗攻击方法上，通过增加特征图对抗损失来增强对抗样本的迁移性。同时从频域的角度，引入低频扰动的对抗损失作为优化函数，来控制低频扰动的扰动方向，从而进一步提高对抗样本的黑盒攻击性能。同时为了优化损失，通过使用基于梯度的类激活映射技术得到包含图像关键特征的注意力权重矩阵，对生成的扰动进一步处理，约束扰动的生成范围，减少冗余噪声的生成，从而提高对抗样本的攻击性能。本发明方法与现有的攻击方法相比，不仅在白盒攻击性能上优异，同时针对黑盒模型的攻击也有更高的攻击效果。

公开(公告)号：CN114330652A

公开(公告)日：2022-04-12

申请号：CN202111580489.0

申请日：2021-12-22

申请人： 杭州师范大学

发明人： 孙军梅 ,  袁珑 ,  李秀梅

IPC分类号： G06N3/04 ,  G06N3/08 ,  G06K9/62 ,  G06V10/32 ,  G06V10/34 ,  G06V10/30 ,  G06V10/764 ,  G06V10/74 ,  G06V10/82 ,  G06V10/774

摘要： 本发明提出了一种目标检测攻击方法和装置。通过将对抗样本由传统的优化机制转化为生成机制，大大缩短了生成对抗样本所需要的时间，同时训练好了GAN网络以后不再需要访问模型内部，能有效进行黑盒攻击。提出的方法能有效利用目标模型输出的分类和位置回归损失有效指导网络的训练，同时引入特征层损失能够有效捕捉图片在高维空间对网络较为敏感的特征，并对其进行扰动能进一步提高攻击成功率。另外加入的高斯滤波模块，可以去除对抗样本的高维扰动，留下低维扰动，并且提高生成对抗样本的图片质量，并进一步增强其攻击成功率。