公开(公告)号：CN115830369A

公开(公告)日：2023-03-21

申请号：CN202211481160.3

申请日：2022-11-24

申请人： 中国人民解放军战略支援部队信息工程大学

发明人： 张恒巍 ,  李哲铭 ,  张晓宁 ,  米岩 ,  孙鹏宇 ,  李晨蔚 ,  杨博 ,  张畅 ,  王晋东 ,  谭晶磊 ,  刘小虎 ,  张玉臣

IPC分类号： G06V10/764 ,  G06V10/46 ,  G06V10/774 ,  G06V10/82 ,  G06N3/045 ,  G06N3/0464 ,  G06N3/084 ,  G06N3/094

摘要： 本发明属于计算机视觉处理技术领域，特别涉及一种基于深度神经网络的对抗样本生成方法及系统，首先将样本数据中的原始图像转化为显著图；利用显著图圈定样本数据原始图像中用于添加扰动的显著区域，通过对显著图像素值进行二值化处理来获取显著掩膜；将样本数据中的原始图像输入图像分类模型中，利用Nadam优化算法与卷积神经网络反向传输过程中的梯度信息，迭代生成全局扰动的对抗样本；将对抗样本与原始图像做差，得到全局对抗噪声；利用全局对抗噪声与显著掩膜的Hadamard乘积来获取显著区域内的对抗噪声，并通过结合对抗噪声与原始图像来得到最终输出的显著区域对抗样本。本发明能够提升生成样本质量，便于测试和提升图像分类模型的安全性和鲁棒性。

公开(公告)号：CN117079053A

公开(公告)日：2023-11-17

申请号：CN202311115161.0

申请日：2023-08-31

申请人： 中国人民解放军战略支援部队信息工程大学

发明人： 张恒巍 ,  杨博 ,  尹衡 ,  李晨蔚 ,  耿致远 ,  王晋东 ,  蔡国明 ,  徐开勇

IPC分类号： G06V10/764 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

摘要： 本发明涉及图像识别技术领域，特别涉及一种基于梯度平均的人工智能图像识别对抗攻击方法及系统，通过在迭代优化中对原始输入样本进行多次图像变换并获取多个图像变换后的图像样本；利用预训练的模型获取对变换后图像样本的模型输出，并基于目标损失函数得到模型输出与原始样本集中样本输入真实标签两者的交叉熵，利用交叉熵损失求解变换后图像样本的梯度，并计算多个变换后图像样本梯度的平均值，利用该梯度平均值求解对抗扰动，并在下一轮迭代优化中将对抗扰动添加至原始输入样本，以通过迭代优化来生成用于对模型进行对抗攻击的对抗样本。本发明通过梯度取平均来减轻随机性过大的影响，生成更具迁移性的对抗样本。

公开(公告)号：CN114066912A

公开(公告)日：2022-02-18

申请号：CN202111397177.6

申请日：2021-11-23

申请人： 中国人民解放军战略支援部队信息工程大学

发明人： 张恒巍 ,  杨博 ,  李晨蔚 ,  刘志林 ,  刘小虎 ,  张玉臣 ,  王晋东

IPC分类号： G06T7/11 ,  G06V10/764 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

摘要： 本发明属于图像识别数据处理技术领域，特别涉及一种基于优化算法和不变性的智能对抗样本生成方法及系统，通过收集带有正确标签的原始图像数据；构建用于对抗样本生成的神经网络模型及模型损失函数，通过最大化模型损失函数来优化原始输入图像和对应输出对抗样本之间的对抗扰动；基于原始图像数据和神经网络模型，利用Adabelief迭代快速梯度法及裁剪不变性方法进行迭代求解，根据迭代终止条件来获取最终生成的对抗样本。本发明从对抗样本的生成过程与神经网络训练过程类似的角度出发，通过Adabelief迭代快速梯度法优化收敛过程，利用裁剪不变性避免对抗攻击中过拟合现象，能够产生更具迁移性对抗样本，提高网络模型鲁棒性，便于实际场景应用。

公开(公告)号：CN116664922A

公开(公告)日：2023-08-29

申请号：CN202310567511.0

申请日：2023-05-19

申请人： 中国人民解放军战略支援部队信息工程大学

发明人： 张恒巍 ,  李晨蔚 ,  张晓宁 ,  杨博 ,  王晋东 ,  刘小虎 ,  谭晶磊 ,  张玉臣 ,  汪永伟 ,  董书琴

IPC分类号： G06V10/764 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/094

摘要： 本发明涉及图像处理技术领域，特别涉及一种基于缩放变换的智能对抗攻击样本生成方法及系统，获取原始图像数据及其对应先验标签；基于迭代优化方法在原始图像数据中添加扰动，以生成对抗样本并输出，其中，每次迭代中对上一轮迭代生成的对抗样本图像数据进行多次缩放扩充处理，将缩放扩充处理后的图像数据输入至网络模型并利用梯度优化方法计算目标损失函数梯度，依据目标损失函数梯度来获取当前迭代中扰动，并将扰动添加到上一轮迭代生成的对抗样本，以生成当前迭代的对抗样本。本发明可有效扩充训练集并减轻对抗样本生成过程中的过拟合，提高对抗样本迁移性和黑盒攻击成功率，提升对抗样本生成质量，便于图像分类、目标检测、人脸识别等场景应用。

公开(公告)号：CN115527084A

公开(公告)日：2022-12-27

申请号：CN202211192096.7

申请日：2022-09-28

申请人： 中国人民解放军战略支援部队信息工程大学

发明人： 张恒巍 ,  李哲铭 ,  米岩 ,  张晓宁 ,  李晨蔚 ,  杨博 ,  王晋东 ,  谭晶磊 ,  刘小虎 ,  张玉臣

IPC分类号： G06V10/774 ,  G06V10/776 ,  G06V10/82

摘要： 本发明属于图像模型评估技术领域，特别涉及一种基于多样化输入策略的智能系统对抗样本生成方法及系统，首先，收集图像变换方法，并依据收集的图像变换方法来构建数据增强方法集；从数据增强方法集中选取若干图像变换方法组成数据增强策略集合；针对原始图像样本数据，利用数据增强策略集合中的图像变换方法分别进行图像变换，得到批次变换后的图像增强数据；利用图像分类模型获取各图像变换方法对应的图像增强数据的梯度值，通过对梯度值进行加权平均来获取对抗扰动噪声，利用对抗扰动噪声生成对抗样本。本发明利用不同图像变换方法的多次随机变换进行图像数据增强，并利用模型梯度值来计算对抗样本中的扰动噪声，提高数据增强变换种类和输入图像数量的多样性，有效缓解“过拟合”现象，提高对抗样本的黑盒攻击能力。