发明公开
- 专利标题: 基于元学习的黑盒对抗测试用例生成方法及系统
-
申请号: CN202310380526.6申请日: 2023-04-11
-
公开(公告)号: CN116701169A公开(公告)日: 2023-09-05
- 发明人: 张智轶 , 张庄昱 , 周玉倩 , 黄志球
- 申请人: 南京航空航天大学
- 申请人地址: 江苏省南京市江宁区将军大道29号
- 专利权人: 南京航空航天大学
- 当前专利权人: 南京航空航天大学
- 当前专利权人地址: 江苏省南京市江宁区将军大道29号
- 代理机构: 南京理工信达知识产权代理有限公司
- 代理商 刘莎
- 主分类号: G06F11/36
- IPC分类号: G06F11/36 ; G06V10/776
摘要:
本发明公开了基于元学习的黑盒对抗测试用例生成方法及系统,利用基于元学习的mask方法获取图像真实类别影响区域,并以掩码保存;通过元学习在代理模型上训练针对每一类的通用噪音;对待攻击的图像添加通用噪音得到初始化图像,使用黑盒模型攻击,如果成功,则直接输出,如果没有成功,则利用RGF方法通过对模型一定次数的查询模拟梯度,进而通过梯度上升的方法对图像真实类别影响区域攻击,直至查询资源到达限制或者该图像生成对抗测试用例。这种方法在黑盒条件下大幅提升了对黑盒模型的查询效率和攻击成功率,减少生成测试用例使用的查询资源,提升生成测试用例的成功率。