基于增量学习的对抗样本检测方法、系统及设备和介质
摘要:
本申请公开了一种基于增量学习的对抗样本检测方法,包括:对抗样本检测模型训练步骤:收集正常业务样本数据集,采用多种对抗攻击方式攻击正常业务样本数据集,生成多种类型的对抗样本,训练出基于增量学习的对抗样本检测模型;已知攻击对抗样本检测步骤:基于增量学习的对抗样本检测模型,对已知攻击类型的对抗样本进行初步过滤检测;未知攻击对抗样本检测步骤:针对未知类型的对抗攻击样本的特征,随机采用相似度比对判断方法,或采用对抗样本距离模型决策方法,输出检测结果大于阈值的原始样本为正常样本;检测结果小于阈值的原始样本为未知类型对抗样本,实现基于增量模型对抗样本的检测。本申请还公开了一种基于增量学习的对抗样本检测系统。
0/0