公开(公告)号：CN115618404A

公开(公告)日：2023-01-17

申请号：CN202211115785.8

申请日：2022-09-14

申请人： 广州大学

发明人： 王乐 ,  李钊华 ,  顾钊铨 ,  吕扬 ,  陈光耀 ,  马丽婷 ,  黄坤鑫 ,  张志强 ,  田志宏

IPC分类号： G06F21/62 ,  G06N3/048 ,  G06N3/084 ,  G06F18/2415

摘要： 本发明涉及人工智能技术领域，公开了一种全连接网络模型梯度泄露输入的风险评估指标的方法，包括以下步骤：S1：构建多分类多输入任务的梯度与输入关系方程式；S2：计算四个风险级别下系数矩阵的秩和条件数，来评估梯度泄露数据的风险；S3：从第一风险级别开始评估，直到某一个风险级别达标，则认证为当前模型的梯度泄露数据的风险级别。本发明全连接网络模型梯度泄露输入的风险评估指标的方法，与现有的梯度泄露输入的指标相比，本发明提出的评估方法是高效的且更符合现实的评估需求，本发明提供的方法不依赖于任何预训练的统计模型，适用于被普遍采用的多分类多输入样本的模型训练任务；本发明提出的指标是准确的，具备严格的理论依据。

公开(公告)号：CN115081019A

公开(公告)日：2022-09-20

申请号：CN202210711148.0

申请日：2022-06-22

申请人： 广州大学

发明人： 孙哲 ,  殷丽华 ,  吕扬 ,  方滨兴 ,  韩伟红 ,  张美范 ,  李然

IPC分类号： G06F21/62 ,  G06N20/00

摘要： 本发明公开了一种深度学习差分隐私算法保护效果的评估方法、系统及装置，包括，从训练集D中选取k个样本，将k个样本根据针对性标记样本生成方法生成k个标记样本；将k个标记样本插入训练集D中生成对比训练集D’；随机选取D或D’作为训练集，结合差分隐私的深度学习算法训练得到深度学习模型；将深度学习模型和k个标记样本输入判别器，分别计算k个标记样本的损失值Loss，根据k个损失值判断训练深度学习模型采用的训练集；统计判别器判别结果中的假正例个数和假负例个数，根据假正例个数和假负例个数计算得到组隐私损失值，组隐私损失值表示该差分算法隐私保护强度。本发明可以实现面向深度学习中差分隐私算法保护效果的评估。