公开(公告)号：CN116523000A

公开(公告)日：2023-08-01

申请号：CN202310362917.5

申请日：2023-04-06

Applicant: 北京邮电大学

Inventor： 王玉龙 ,  谢宏港 ,  王红熳 ,  苏森

IPC: G06N3/0475 ,  G06N3/094 ,  G06V10/26 ,  G06V10/30 ,  G06V10/774 ,  G06V10/80 ,  G06V10/82

Abstract: 本申请提供一种神经网络对抗样本防御方法、电子设备和存储介质，所述方法包括：获取对抗数据集；根据颜色信道将所述对抗数据集中的每个图像进行分割，得到分割图像集；根据预设掩模对分割图像集进行处理，得到目标低频图像集和目标高频图像集；根据预设降噪方法对目标高频图像集进行降噪处理，得到目标降噪高频图像集；将目标低频图像集、目标降噪高频图像集输入至预设目标生成器进行融合，生成防御对抗样本集。所述方法生成的防御对抗样本通过去除高频图像中的噪声，即去除了分布在高频分量图像中的对抗扰动，使对抗样本更接近原始图像，对抗样本才能够被正确分类。

公开(公告)号：CN116304685A

公开(公告)日：2023-06-23

申请号：CN202310148707.6

申请日：2023-02-14

Applicant: 北京邮电大学

Inventor： 王玉龙 ,  谢宏港 ,  苏森 ,  徐鹏 ,  双锴 ,  张忠宝 ,  程祥

IPC: G06F18/214 ,  G06N3/0475 ,  G06N3/094

Abstract: 本申请提供一种对抗样本生成方法、装置及电子设备。所述方法包括：获取训练数据，以及根据所述训练数据训练得到的目标神经网络模型；将所述训练数据作为输入值，分别计算所述目标神经网络模型每一层输出值的平均值，并将每一层的平均值作为该层的输出基准数据；根据所述输出基准数据，通过迭代计算，得到目标数据；响应于确定达到预定条件，将所述目标数据作为对抗样本。通过所述方法，限制了生成的对抗样本远离正常样本流形的程度，降低了对抗样本被检测到的可能性。