发明公开
- 专利标题: 一种高效的规模化人工智能模型安全性评估方法及装置
-
申请号: CN202210997878.1申请日: 2022-08-19
-
公开(公告)号: CN115455422A公开(公告)日: 2022-12-09
- 发明人: 王一凡 , 孙治 , 和达 , 权赵恒 , 何秉钧 , 陈剑锋
- 申请人: 中国电子科技网络信息安全有限公司
- 申请人地址: 四川省成都市双流区西南航空港经济开发区工业集中区内
- 专利权人: 中国电子科技网络信息安全有限公司
- 当前专利权人: 中国电子科技网络信息安全有限公司
- 当前专利权人地址: 四川省成都市双流区西南航空港经济开发区工业集中区内
- 代理机构: 成都九鼎天元知识产权代理有限公司
- 代理商 管高峰
- 主分类号: G06F21/57
- IPC分类号: G06F21/57 ; G06F21/56 ; G06N3/04 ; G06N3/08
摘要:
本发明公开了一种高效的规模化人工智能模型安全性评估方法及装置,其中方法包括:对待测人工智能模型的输入进行预处理,并根据使用的攻击和防御方法生成相应的配置文件;对物理资源进行监控,实时记录资源使用情况;将所有对抗攻击方法打包为Docker镜像形式保存在镜像库,根据为待测人工智能模型生成的配置文件以及资源使用情况启动对应的测试任务,从镜像库中启动相应攻击方法的镜像容器,被启动的镜像容器根据配置文件自动执行攻击算法,攻击结束后将镜像容器返回的结果保存至数据库。可实现不同框架模型之间的统一格式转换和描述,支持多种人工智能框架,可实现对抗样本攻击算法的虚拟化和容器化。