发明公开
- 专利标题: 针对连续学习能力系统的基于特征操纵的攻击和防御方法
-
申请号: CN202111242998.2申请日: 2021-10-25
-
公开(公告)号: CN113919497A公开(公告)日: 2022-01-11
- 发明人: 郭良轩 , 陈阳 , 余山 , 曲徽 , 黄旭辉 , 张金鹏
- 申请人: 中国科学院自动化研究所 , 中国航天科工集团第二研究院
- 申请人地址: 北京市海淀区中关村东路95号;
- 专利权人: 中国科学院自动化研究所,中国航天科工集团第二研究院
- 当前专利权人: 中国科学院自动化研究所,中国航天科工集团第二研究院
- 当前专利权人地址: 北京市海淀区中关村东路95号;
- 代理机构: 北京市恒有知识产权代理事务所
- 代理商 郭文浩; 尹文会
- 主分类号: G06N3/08
- IPC分类号: G06N3/08 ; G06N3/06 ; G06N3/04 ; G06V10/774 ; G06V10/764
摘要:
本发明属于模式识别、机器学习、多任务学习、对抗攻击技术领域,具体涉及一种针对连续学习能力系统的基于特征操纵的攻击和防御方法,旨在解决现有基于连续学习的智能系统安全性、鲁棒性较差的问题。本发明方法包括:获取图像干净样本;提取干净样本的特征;获取目标样本并提取特征,作为目标锚点特征;基于干净样本特征,结合目标锚点特征,通过攻击样本生成算法生成对抗样本;通过连续学习算法对图像分类模型进行训练,并统计在C类任务分类学习时干净样本对应的分类正确率;按照1:n的比例增入第一矩阵作为训练样本,重新训练;基于训练好的图像分类模型对图像进行分类。本发明提升了现有基于连续学习的智能系统的安全性、鲁棒性。