联邦学习中成员推理攻击方法及装置
Abstract:
本申请涉及联邦学习中成员推理攻击方法及装置,方法包括:确定攻击者在目标模型的训练过程中的关键轮次K;将目标样本输入到目标模型中,获取样本特征;样本特征包括目标样本在目标模型的关键轮次K上的损失值以及在最后一个轮次上的损失值、真实标签、参数梯度和输出;为目标样本在目标模型的关键轮次K上的损失值以及在最后一个轮次上的损失值分配权重;将分配权重的样本特征输入到攻击模型中,输出目标样本为成员样本的概率值来判断目标样本是否为成员样本。本申请采用过拟合特征感知,在目标模型训练过程中寻找一个能区分出表现相似的成员和非成员的关键轮次K,利用Transformer模型为不同的样本分配关键轮次和最后一轮的权重,提高攻击准确率。
Patent Agency Ranking
0/0