Invention Publication
- Patent Title: 联邦学习中成员推理攻击方法及装置
-
Application No.: CN202211390870.5Application Date: 2022-11-07
-
Publication No.: CN115640847APublication Date: 2023-01-24
- Inventor: 尹小燕 , 韩青洁 , 代志伟 , 贺帅帅 , 龚志敏 , 崔瑾 , 陈晓江 , 房鼎益
- Applicant: 西北大学
- Applicant Address: 陕西省西安市太白北路229号
- Assignee: 西北大学
- Current Assignee: 西北大学
- Current Assignee Address: 陕西省西安市太白北路229号
- Agency: 西安恒泰知识产权代理事务所
- Agent 周春霞
- Main IPC: G06N3/098
- IPC: G06N3/098 ; G06N3/045 ; G06N3/0464

Abstract:
本申请涉及联邦学习中成员推理攻击方法及装置,方法包括:确定攻击者在目标模型的训练过程中的关键轮次K;将目标样本输入到目标模型中,获取样本特征;样本特征包括目标样本在目标模型的关键轮次K上的损失值以及在最后一个轮次上的损失值、真实标签、参数梯度和输出;为目标样本在目标模型的关键轮次K上的损失值以及在最后一个轮次上的损失值分配权重;将分配权重的样本特征输入到攻击模型中,输出目标样本为成员样本的概率值来判断目标样本是否为成员样本。本申请采用过拟合特征感知,在目标模型训练过程中寻找一个能区分出表现相似的成员和非成员的关键轮次K,利用Transformer模型为不同的样本分配关键轮次和最后一轮的权重,提高攻击准确率。
Information query