发明公开
- 专利标题: 深度学习模型恶意样本检测方法、系统、设备及存储介质
-
申请号: CN202010996847.5申请日: 2020-09-21
-
公开(公告)号: CN112084505A公开(公告)日: 2020-12-15
- 发明人: 沈超 , 金凯迪 , 蔺琛皓 , 范铭 , 陈宇飞 , 刘烃
- 申请人: 西安交通大学
- 申请人地址: 陕西省西安市咸宁西路28号
- 专利权人: 西安交通大学
- 当前专利权人: 西安交通大学
- 当前专利权人地址: 陕西省西安市咸宁西路28号
- 代理机构: 西安通大专利代理有限责任公司
- 代理商 马贵香
- 主分类号: G06F21/56
- IPC分类号: G06F21/56 ; G06K9/62 ; G06N20/00
摘要:
本发明属于智能系统安全领域,公开了一种深度学习模型恶意样本检测方法、系统、设备及存储介质,包括:获取初始模型,修改初始模型的全连接层参数得到若干变异模型;获取待检测样本,将待检测样本分别输入初始模型和若干变异模型,得到初始预测结果及若干变异预测结果;当初始预测结果与若干变异预测结果间的差异率小于预设检测阈值时,确定待检测样本为恶意样本;否则,确定待检测样本为正常样本。相比于现有的检测方法,本发明方法不需要对模型做更改,不需要提前获取恶意样本的先验知识,且对模型本身对正常样本的检测性能影响较小。