- 专利标题: 用于神经网络模型的对抗样本检测的方法及处理器
-
申请号: CN202311640739.4申请日: 2023-12-01
-
公开(公告)号: CN117787352B公开(公告)日: 2024-09-03
- 发明人: 江军 , 王炜
- 申请人: 北京天融信网络安全技术有限公司 , 北京天融信科技有限公司 , 北京天融信软件有限公司
- 申请人地址: 北京市海淀区上地东路1号院3号楼四层; ;
- 专利权人: 北京天融信网络安全技术有限公司,北京天融信科技有限公司,北京天融信软件有限公司
- 当前专利权人: 北京天融信网络安全技术有限公司,北京天融信科技有限公司,北京天融信软件有限公司
- 当前专利权人地址: 北京市海淀区上地东路1号院3号楼四层; ;
- 代理机构: 北京润平知识产权代理有限公司
- 代理商 乔晓粉
- 主分类号: G06N3/0475
- IPC分类号: G06N3/0475 ; G06N3/094 ; G06N3/06 ; G06N3/045
摘要:
本申请公开了一种用于神经网络模型的对抗样本检测的方法及处理器,属于人工智能技术领域。该方法包括:获取不同样本类别的样本数据在预设神经网络模型中分别对应的神经元输出值和模型输出值;根据神经元输出值,确定各样本类别在预设神经网络模型中分别对应的无效神经元和关键神经元;根据模型输出值,确定预设神经网络模型对各样本类别的预测区分度;根据无效神经元、关键神经元和模型预测区分度,对待检测数据进行对抗样本检测,以判断待检测数据是否为对抗样本数据。本申请能够提高对抗样本的检测效率。
公开/授权文献
- CN117787352A 用于神经网络模型的对抗样本检测的方法及处理器 公开/授权日:2024-03-29