发明公开
- 专利标题: 基于遗忘学习的可解释图推荐系统后门防御方法及系统
-
申请号: CN202311767173.1申请日: 2023-12-20
-
公开(公告)号: CN117972691A公开(公告)日: 2024-05-03
- 发明人: 张佳乐 , 饶博森 , 朱诚诚 , 孙小兵 , 陈玮彤 , 成翔
- 申请人: 扬州大学
- 申请人地址: 江苏省扬州市大学南路88号
- 专利权人: 扬州大学
- 当前专利权人: 扬州大学
- 当前专利权人地址: 江苏省扬州市大学南路88号
- 代理机构: 南京苏高专利商标事务所
- 代理商 孟红梅
- 主分类号: G06F21/56
- IPC分类号: G06F21/56 ; G06F21/55 ; G06N20/00
摘要:
本发明公开了一种基于遗忘学习的可解释图推荐系统后门防御方法及系统,通过触发器还原算法还原潜在的图触发器,并通过遗忘学习遗忘后门触发器特征,从而将后门模型净化为正常模型。本发明首先利用一定比例的干净数据集,通过可解释的图后门还原算法,恢复后门模型中的后门触发器子图。随后,将后门触发器子图添加至正常样本,通过基于知识蒸馏的遗忘学习算法,遗忘后门触发器特征并保持模型在正常任务上的精度,以此来净化后门模型。本发明能够有效解决攻击者通过修改用户之间的关系,改变用户信息操作得到中毒子图,用户使用中毒数据训练的后门模型时,遭受如恶意广告侵扰等问题,有助于提升服务质量和用户体验。