Invention Grant
- Patent Title: 模型的后门检测方法、装置、介质和计算设备
-
Application No.: CN202011418502.8Application Date: 2020-12-07
-
Publication No.: CN112257816BPublication Date: 2021-09-21
- Inventor: 张旭东 , 萧子豪 , 董胤蓬 , 朱建威 , 唐家渝 , 田天
- Applicant: 北京瑞莱智慧科技有限公司
- Applicant Address: 北京市海淀区清华科技园科技大厦B座18层
- Assignee: 北京瑞莱智慧科技有限公司
- Current Assignee: 北京瑞莱智慧科技有限公司
- Current Assignee Address: 北京市海淀区清华科技园科技大厦B座18层
- Agency: 北京箴思知识产权代理有限公司
- Agent 李春晖
- Main IPC: G06K9/62
- IPC: G06K9/62
Abstract:
本发明提供了一种模型的后门检测方法、装置、介质和计算设备。该方法包括:提供用于检测后门的材料,其中,所述材料至少包括用于检测模型是否存在后门的检测样本集;基于所述检测样本集对所述模型的每一类别的输出进行搜索,以得到针对所述模型的每一类别的输出的多个还原结果,其中,所述还原结果用于表征基于一个或多个同类别检测样本,使所述模型的输出结果出错的修改量;根据所述模型的不同类别的输出的还原结果确定所述模型是否存在后门。根据本发明的技术方案,可以采用任何样本检测模型是否存在后门,而不必须是训练模型时使用的样本,给用户带来了更加方便的体验。且仅需提供输入输出反馈,无需模型具体结构和参数,保护了用户知识产权。
Public/Granted literature
- CN112257816A 模型的后门检测方法、装置、介质和计算设备 Public/Granted day:2021-01-22
Information query