-
公开(公告)号：CN116664922A
公开(公告)日：2023-08-29
申请号：CN202310567511.0
申请日：2023-05-19
申请人： 中国人民解放军战略支援部队信息工程大学
IPC分类号： G06V10/764 , G06V10/774 , G06V10/82 , G06N3/0464 , G06N3/094
摘要： 本发明涉及图像处理技术领域，特别涉及一种基于缩放变换的智能对抗攻击样本生成方法及系统，获取原始图像数据及其对应先验标签；基于迭代优化方法在原始图像数据中添加扰动，以生成对抗样本并输出，其中，每次迭代中对上一轮迭代生成的对抗样本图像数据进行多次缩放扩充处理，将缩放扩充处理后的图像数据输入至网络模型并利用梯度优化方法计算目标损失函数梯度，依据目标损失函数梯度来获取当前迭代中扰动，并将扰动添加到上一轮迭代生成的对抗样本，以生成当前迭代的对抗样本。本发明可有效扩充训练集并减轻对抗样本生成过程中的过拟合，提高对抗样本迁移性和黑盒攻击成功率，提升对抗样本生成质量，便于图像分类、目标检测、人脸识别等场景应用。
-
公开(公告)号：CN117079053A
公开(公告)日：2023-11-17
申请号：CN202311115161.0
申请日：2023-08-31
申请人： 中国人民解放军战略支援部队信息工程大学
IPC分类号： G06V10/764 , G06V10/82 , G06N3/04 , G06N3/08
摘要： 本发明涉及图像识别技术领域，特别涉及一种基于梯度平均的人工智能图像识别对抗攻击方法及系统，通过在迭代优化中对原始输入样本进行多次图像变换并获取多个图像变换后的图像样本；利用预训练的模型获取对变换后图像样本的模型输出，并基于目标损失函数得到模型输出与原始样本集中样本输入真实标签两者的交叉熵，利用交叉熵损失求解变换后图像样本的梯度，并计算多个变换后图像样本梯度的平均值，利用该梯度平均值求解对抗扰动，并在下一轮迭代优化中将对抗扰动添加至原始输入样本，以通过迭代优化来生成用于对模型进行对抗攻击的对抗样本。本发明通过梯度取平均来减轻随机性过大的影响，生成更具迁移性的对抗样本。
-
公开(公告)号：CN114066912A
公开(公告)日：2022-02-18
申请号：CN202111397177.6
申请日：2021-11-23
申请人： 中国人民解放军战略支援部队信息工程大学
IPC分类号： G06T7/11 , G06V10/764 , G06K9/62 , G06N3/04 , G06N3/08
摘要： 本发明属于图像识别数据处理技术领域，特别涉及一种基于优化算法和不变性的智能对抗样本生成方法及系统，通过收集带有正确标签的原始图像数据；构建用于对抗样本生成的神经网络模型及模型损失函数，通过最大化模型损失函数来优化原始输入图像和对应输出对抗样本之间的对抗扰动；基于原始图像数据和神经网络模型，利用Adabelief迭代快速梯度法及裁剪不变性方法进行迭代求解，根据迭代终止条件来获取最终生成的对抗样本。本发明从对抗样本的生成过程与神经网络训练过程类似的角度出发，通过Adabelief迭代快速梯度法优化收敛过程，利用裁剪不变性避免对抗攻击中过拟合现象，能够产生更具迁移性对抗样本，提高网络模型鲁棒性，便于实际场景应用。
-
公开(公告)号：CN115830369A
公开(公告)日：2023-03-21
申请号：CN202211481160.3
申请日：2022-11-24
申请人： 中国人民解放军战略支援部队信息工程大学
IPC分类号： G06V10/764 , G06V10/46 , G06V10/774 , G06V10/82 , G06N3/045 , G06N3/0464 , G06N3/084 , G06N3/094
摘要： 本发明属于计算机视觉处理技术领域，特别涉及一种基于深度神经网络的对抗样本生成方法及系统，首先将样本数据中的原始图像转化为显著图；利用显著图圈定样本数据原始图像中用于添加扰动的显著区域，通过对显著图像素值进行二值化处理来获取显著掩膜；将样本数据中的原始图像输入图像分类模型中，利用Nadam优化算法与卷积神经网络反向传输过程中的梯度信息，迭代生成全局扰动的对抗样本；将对抗样本与原始图像做差，得到全局对抗噪声；利用全局对抗噪声与显著掩膜的Hadamard乘积来获取显著区域内的对抗噪声，并通过结合对抗噪声与原始图像来得到最终输出的显著区域对抗样本。本发明能够提升生成样本质量，便于测试和提升图像分类模型的安全性和鲁棒性。
-
公开(公告)号：CN117689954A
公开(公告)日：2024-03-12
申请号：CN202311776201.6
申请日：2023-12-22
申请人： 中国人民解放军战略支援部队信息工程大学
IPC分类号： G06V10/764 , G06V10/82 , G06N3/094
摘要： 本发明涉及计算机视觉技术领域，特别涉及一种基于图像平均的人工智能图像识别对抗攻击方法及系统，利用对抗样本生成算法在神经网络模型上对原始图像样本数据迭代攻击，生成对抗图像数据集，对抗图像数据集包括通过调整对抗攻击超参数生成的多批次对抗样本数据和/或相同对抗攻击超参数下生成的多批次对抗样本数据和/或采用不同对抗样本生成算法生成的若干对抗样本数据；对对抗图像数据集中的对抗样本数据进行图像平均，将图像平均结果转化为对抗样本图像，以利用该对抗样本图像测试人工智能图像识别神经网络模型性能。本发明充分利用超参数实验生成的多批次次优对抗样本并通过图像平均，能够提升对抗样本的迁移性、攻击成功率及其图像质量。
-
公开(公告)号：CN113487015A
公开(公告)日：2021-10-08
申请号：CN202110766192.7
申请日：2021-07-07
申请人： 中国人民解放军战略支援部队信息工程大学
摘要： 本发明属于计算机视觉图像识别技术领域，特别涉及一种基于图像亮度随机变换的对抗样本生成方法及系统，收集用于视觉图像分类识别的样本数据，包含输入图像、以及与输入图像对应的标签数据；构建用于生成对抗样本的深度神经网络模型；通过对样本数据输入图像亮度随机变换进行数据增强，利用动量迭代FGSM图像对抗算法对网络模型求解，在目标损失函数关于输入梯度方向上寻找对抗扰动，并对对抗扰动进行无穷范数限制，通过最大化样本数据在网络模型上的目标损失函数来生成对抗样本。本发明将图像亮度随机变换引入到对抗攻击中，有效消除对抗样本生成过程过拟合，提高对抗样本攻击成功率和可迁移性，为构建更加鲁棒图像分类识别系统打下良好基础。
-
公开(公告)号：CN115527084A
公开(公告)日：2022-12-27
申请号：CN202211192096.7
申请日：2022-09-28
申请人： 中国人民解放军战略支援部队信息工程大学
IPC分类号： G06V10/774 , G06V10/776 , G06V10/82
摘要： 本发明属于图像模型评估技术领域，特别涉及一种基于多样化输入策略的智能系统对抗样本生成方法及系统，首先，收集图像变换方法，并依据收集的图像变换方法来构建数据增强方法集；从数据增强方法集中选取若干图像变换方法组成数据增强策略集合；针对原始图像样本数据，利用数据增强策略集合中的图像变换方法分别进行图像变换，得到批次变换后的图像增强数据；利用图像分类模型获取各图像变换方法对应的图像增强数据的梯度值，通过对梯度值进行加权平均来获取对抗扰动噪声，利用对抗扰动噪声生成对抗样本。本发明利用不同图像变换方法的多次随机变换进行图像数据增强，并利用模型梯度值来计算对抗样本中的扰动噪声，提高数据增强变换种类和输入图像数量的多样性，有效缓解“过拟合”现象，提高对抗样本的黑盒攻击能力。
-
-
-
-
-
-
搜索结果
7 条记录 (耗时 0.053 秒)
