针对连续学习能力系统的基于特征操纵的攻击和防御方法
摘要:
本发明属于模式识别、机器学习、多任务学习、对抗攻击技术领域,具体涉及一种针对连续学习能力系统的基于特征操纵的攻击和防御方法,旨在解决现有基于连续学习的智能系统安全性、鲁棒性较差的问题。本发明方法包括:获取图像干净样本;提取干净样本的特征;获取目标样本并提取特征,作为目标锚点特征;基于干净样本特征,结合目标锚点特征,通过攻击样本生成算法生成对抗样本;通过连续学习算法对图像分类模型进行训练,并统计在C类任务分类学习时干净样本对应的分类正确率;按照1:n的比例增入第一矩阵作为训练样本,重新训练;基于训练好的图像分类模型对图像进行分类。本发明提升了现有基于连续学习的智能系统的安全性、鲁棒性。
0/0