公开(公告)号：CN117853846A

公开(公告)日：2024-04-09

申请号：CN202410143731.5

申请日：2024-01-31

Applicant: 国网重庆市电力公司电力科学研究院 ,  重庆邮电大学 ,  国家电网有限公司

Inventor： 陈咏涛 ,  米建勋 ,  程晓 ,  田鹏 ,  陈涛 ,  吕小红 ,  向菲 ,  钟加勇 ,  厉仄平 ,  江金洋 ,  李松浓 ,  况彭燕 ,  彭文鑫 ,  戴豪礽 ,  张哲宇 ,  徐凯 ,  赵祥金

IPC: G06V10/774 ,  G06V10/82 ,  G06N3/0475 ,  G06N3/094

Abstract: 本申请公开了一种黑盒对抗样本生成方法、装置、设备及存储介质，涉及深度学习安全技术领域，包括：利用预先获取的数据集对初始目标检测模型进行训练，将训练好的目标检测模型确定为黑盒目标检测模型；将目标图像输入黑盒目标检测模型中，获取若干个预测结果，基于预测结果及预设热图生成算法生成热图；基于热图生成目标掩码，利用目标技术生成对抗扰动，利用目标掩码限制对抗扰动的扰动区域，根据相应的限制后对抗扰动确定对抗样本。由此，本申请能够将对抗扰动的覆盖区域限制在有效攻击的区域，进而根据生成的对抗样本对黑盒目标检测模型进行攻击测试。