一种高效的规模化人工智能模型安全性评估方法及装置
摘要:
本发明公开了一种高效的规模化人工智能模型安全性评估方法及装置,其中方法包括:对待测人工智能模型的输入进行预处理,并根据使用的攻击和防御方法生成相应的配置文件;对物理资源进行监控,实时记录资源使用情况;将所有对抗攻击方法打包为Docker镜像形式保存在镜像库,根据为待测人工智能模型生成的配置文件以及资源使用情况启动对应的测试任务,从镜像库中启动相应攻击方法的镜像容器,被启动的镜像容器根据配置文件自动执行攻击算法,攻击结束后将镜像容器返回的结果保存至数据库。可实现不同框架模型之间的统一格式转换和描述,支持多种人工智能框架,可实现对抗样本攻击算法的虚拟化和容器化。
0/0