-
公开(公告)号：CN119474489A
公开(公告)日：2025-02-18
申请号：CN202510068033.8
申请日：2025-01-16
Applicant: 中国铁道科学研究院集团有限公司电子计算技术研究所 , 北京交通大学 , 中国铁道科学研究院集团有限公司 , 中国国家铁路集团有限公司
IPC: G06F16/9035 , G06F16/9038 , G06N20/00
Abstract: 本申请公开了一种基于联邦学习的推荐方法、装置、设备和存储介质，用于提高推荐系统的公平性。本申请接收目标对象上传的目标属性；基于目标属性对目标对象进行分组，得到群体；针对每个群体基于目标属性的属性值对目标对象进行分组，得到子群体；针对每个子群体，将子群体对应的模型参数集发送给子群体中的每个目标对象；以使目标对象根据接收到的模型参数集本地模型进行训练；本地模型用于执行推荐操作。用户可以选择自己期望的敏感属性，根据不同的敏感属性构建不同的群体，并根据群体中的不同取值来构建子群体，针对每个子群体均设置了对应的模型参数集，进而可以保证训练得到的本地模型更加的准确，可以保证公平性的同时提供较高的推荐性能。
-
公开(公告)号：CN118233190A
公开(公告)日：2024-06-21
申请号：CN202410387088.0
申请日：2024-04-01
Applicant: 北京交通大学
IPC: H04L9/40 , G06N3/098 , G06F18/214
Abstract: 本发明提供一种联邦推荐无目标投毒攻击防御方法、装置和系统，其中方法包括：服务器随机初始一组用户嵌入以近似良性用户嵌入分布；服务器依据近似的用户嵌入组及不同用户上传的更新信息，依次计算项目的推荐评分、评分变化速度、项目统计频数，并由此推断可能的流行项目；服务器采用“多轮综合评价”原则，依据用户与全局模型近次在流行项目上的评分行为一致性共同量化其在本轮的贡献值；服务器计算动态阈值并据此剔除贡献小于这一阈值的异常用户；服务器将剩余用户上传的梯度作为正常梯度参与后续聚合更新，并将聚合更新后的结果作为新一轮参数发送至用户；重复该过程直至模型收敛。本发明有效提高了联邦推荐模型对无目标投毒攻击的抵抗能力。
-
公开(公告)号：CN117272370B
公开(公告)日：2024-03-22
申请号：CN202311189893.4
申请日：2023-09-14
Applicant: 北京交通大学
IPC: G06F21/62 , G06F16/9536 , G06N3/0442 , G06N3/08
Abstract: 本说明书实施例提供了一种基于用户轨迹序列的下一个兴趣点隐私保护推荐方法及系统，其中，方法包括：捕捉用户签到行为中复杂的序列转移模式和动态偏好，根据所述序列转移模式和动态偏好，基于序列模型建立融合用户长短期偏好特征的轨迹预测模型；将所述轨迹预测模型设置为联邦推荐训练形式，在轨迹数据不出当前地区范围的前提下，通过协调多个用户设备共同优化所述轨迹预测模型，并在优化过程中通过差分隐私机制对模型参数进行加噪保护。
-
公开(公告)号：CN118941848A
公开(公告)日：2024-11-12
申请号：CN202410967635.2
申请日：2024-07-18
Applicant: 中国铁道科学研究院集团有限公司电子计算技术研究所 , 北京交通大学 , 中国铁道科学研究院集团有限公司 , 中国国家铁路集团有限公司
IPC: G06V10/764 , G06N20/00 , G06F21/55
Abstract: 本发明涉及鲁棒性检测技术领域，涉及一种基于联邦学习的鲁棒性检测方法、装置、设备及介质，所述方法包括获取第一全局模型，所述第一全局模型为服务器端训练的模型；将所述第一全局模型发送至本地端，并利用本地端的数据集对所述全局模型进行更新训练，得到至少一个本地模型；根据至少一个所述本地模型生成第一恶意模型；将所述第一恶意模型发送至服务器端进行聚合并根据聚合后的全局模型进行鲁棒性检测，本发明通过在本地生成第一恶意模型再将第一恶意模型上传至服务器端干扰全局模型更新，继而通过观察测试前后全局模型性能表现来判断联邦学习系统的鲁棒性，有效的提高了联邦学习系统的鲁棒性检测效率和速度。
-
公开(公告)号：CN116962085A
公开(公告)日：2023-10-27
申请号：CN202311213109.9
申请日：2023-09-20
Applicant: 北京交通大学
Abstract: 本说明书实施例提供了一种鲁棒的个性化联邦学习方法、装置及系统，方法包括：服务器接收来自多个客户端的模型更新数据，模型更新数据为在客户端上训练的本地模型的参数在训练前后的参数差值；服务器根据模型更新数据，得到各模型更新数据之间的基于α的层位置正则化相似度；服务器针对每一个客户端，根据基于α的层位置正则化相似度，得到模型更新数据的权重；服务器根据模型更新数据的权重和模型更新数据，分别得到各客户端对应的聚合模型更新数据；服务器发送聚合模型更新数据到各客户端。本申请提供的技术方案用以解决在联邦学习中系统中存在恶意攻击者时，通过本地协作训练算法同时训练本地模型和聚合模型来抵御恶意客户端的投毒攻击问题。
-
公开(公告)号：CN116702191A
公开(公告)日：2023-09-05
申请号：CN202310615878.5
申请日：2023-05-29
Applicant: 北京交通大学 , 中国铁道科学研究院集团有限公司电子计算技术研究所
Abstract: 本发明提供了一种联邦学习本地模型参数聚合方法。该方法包括：对可信机构进行初始化处理，获得系统公共参数和主私钥；客户端和中心服务器向可信机构请求注册，可信机构组建所有客户端的通信群；客户端使用本地数据对中心服务器下发的全局模型进行训练，获得本地模型参数；客户端使用签名密钥和中心服务器的公钥签名并加密本地模型参数，将本地模型参数的密文和签名以匿名方式上传给中心服务器；中心服务器解密各客户端上传的本地模型参数，验证本地模型参数的签名；聚合经过验证的本地模型参数，根据聚合结果更新全局模型，向通信群中的所有客户端广播更新后的全局模型。本发明方法强化了联邦学习的隐私保护能力，维护联邦学习系统的鲁棒性。
-
公开(公告)号：CN116527393A
公开(公告)日：2023-08-01
申请号：CN202310662319.X
申请日：2023-06-06
Applicant: 北京交通大学
IPC: H04L9/40 , G06N20/00 , G06F18/214
Abstract: 本发明提供了一种面向联邦学习投毒攻击的防御方法、装置、设备及介质，包括：从多个客户端中获取本地数据对应的第一特征嵌入信息，本地数据预存在客户端中，各个客户端中的本地数据为总训练样本的不相交的样本子集；对第一特征嵌入信息与预存的本地数据对应的数据标签进行互信息计算；根据计算得到的互信息对第一特征嵌入信息进行异常特征嵌入剔除，并将剔除后的第一特征嵌入信息作为正常特征嵌入信息；基于正常特征嵌入信息对预存的顶部模型进行训练，以优化顶部模型参数。本发明能够在不借助辅助数据以及不接触客户端底部模型的条件下实现对恶意样本的规避且不影响模型的可用性，适用于纵向联邦学习场景中。
-
公开(公告)号：CN116527393B
公开(公告)日：2024-01-16
申请号：CN202310662319.X
申请日：2023-06-06
Applicant: 北京交通大学
IPC: H04L9/40 , G06N20/00 , G06F18/214
Abstract: 本发明提供了一种面向联邦学习投毒攻击的防御方法、装置、设备及介质，包括：从多个客户端中获取本地数据对应的第一特征嵌入信息，本地数据预存在客户端中，各个客户端中的本地数据为总训练样本的不相交的样本子集；对第一特征嵌入信息与预存的本地数据对应的数据标签进行互信息计算；根据计算得到的互信息对第一特征嵌入信息进行异常特征嵌入剔除，并将剔除后的第一特征嵌入信息作为正常特征嵌入信息；基于正常特征嵌入信息对预存的顶部模型进行训练，以优化顶部模型参数。本发明能够在不借助辅助数据以及不接触客户端底部模型的条件下实现对恶意样本的规避且不影响模型的可用性，适用于纵向联邦学习场景中。
-
公开(公告)号：CN117010026A
公开(公告)日：2023-11-07
申请号：CN202310797647.0
申请日：2023-06-30
Applicant: 北京交通大学
Abstract: 本发明提供了一种基于联邦知识网络的异常人物关系检测方法。该方法包括：可信第三方生成公钥、私钥和计算密钥，各个社区监控终端提取图像中的人脸特征，将利用公钥加密后的人脸特征对发送给中心服务器，中心服务器在密文条件下计算人脸特征对之间的欧式距离，利用可信第三方构建全局人物关系知识网络；社区监控终端捕获图像并检测亲密关系，将加密的待查询人脸特征对发送给服务器，服务器计算待查询人脸特征对与全局人物关系知识网络中人脸特征对之间的距离，利用可信第三方判断是否存在人员异常关系。本发明方法通过密钥分发、知识网络构建和异常关系检测实现了有效的关系识别和异常监测，有助于保护社区监控终端成员的安全与隐私。
