一种面向联邦推荐的有目标投毒攻击防御方法与系统
Abstract:
本发明公开了一种面向联邦推荐的有目标投毒攻击防御方法及系统,包括:服务器随机选取预设比例的客户端参加模型训练;服务器连续记录不同用户在每一轮的更新项目模式;服务器通过识别良性用户在训练期间更新项目的两种模式,动态剔除不满足前述模式条件的异常用户;服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新,并将聚合更新后的结果作为新一轮参数发送至客户端;重复该过程直至模型收敛。本发明能够在训练过程中动态检测来自客户端上传的模型参数更新和交互项目更新模式,通过识别良性用户在训练期间更新项目的两种模式,针对性的对参与联邦推荐训练的异常用户进行检测并剔除,可以有效减轻有目标投毒攻击对联邦推荐系统的损害。
Patent Agency Ranking
0/0