-
公开(公告)号：CN112380572A
公开(公告)日：2021-02-19
申请号：CN202110051389.2
申请日：2021-01-14
Applicant: 之江实验室
Abstract: 本发明公开了一种多方数据协同场景下的隐私保护量化评估方法和系统，该方法为数据资源提供方根据算法和保护机制，将所述数据资源输入模型中进行训练，输出满足模型指标和阈值的模型，同时，数据资源提供方利用攻击手段，攻击上述模型，记录并量化模型的隐私泄露情况，输出隐私指标；数据资源使用方和数据资源提供方分别根据模型指标和隐私指标是否满足自身需要，做出是否进行数据合作的决策。本发明提升了在数据共享过程中对隐私风险和数据价值的有效评估和信息披露，有效解决数据资源提供方和数据使用需求方之间的信息不对称问题，有助于构建更加健康和可持续发展的数据共享、交互和交易体系。
-
公开(公告)号：CN112733196A
公开(公告)日：2021-04-30
申请号：CN202110358755.9
申请日：2021-04-02
Applicant: 之江实验室
IPC: G06F21/62
Abstract: 本发明公开了基于向量混淆的抗成员推理攻击的隐私保护方法和系统，对分类模型输出的预测向量依次进行满足向量可用性约束以及保序性要求的混淆变换和满足随机性、向量可用性约束以及保序性要求的扰动变换，并将变换后的噪声向量作为模型分类结果进行返回。本发明无需对目标分类模型进行修改，且无需了解成员推理攻击的具体技术细节，能够简单、快速地应用于已有的分类模型，开销小，适用范围广；向量可用性约束提供了预测结果可用性和模型隐私保护性间平衡的灵活配置方案；添加的随机扰动显著降低了攻击者根据噪声向量还原出预测向量的可能性，提升了方法的鲁棒性；保序性要求则保障了模型在不降低预测准确率的情况下提升了抗成员推理攻击能力。
-
公开(公告)号：CN112380572B
公开(公告)日：2021-10-29
申请号：CN202110051389.2
申请日：2021-01-14
Applicant: 之江实验室
Abstract: 本发明公开了一种多方数据协同场景下的隐私保护量化评估方法和系统，该方法为数据资源提供方根据算法和保护机制，将所述数据资源输入模型中进行训练，输出满足模型指标和阈值的模型，同时，数据资源提供方利用攻击手段，攻击上述模型，记录并量化模型的隐私泄露情况，输出隐私指标；数据资源使用方和数据资源提供方分别根据模型指标和隐私指标是否满足自身需要，做出是否进行数据合作的决策。本发明提升了在数据共享过程中对隐私风险和数据价值的有效评估和信息披露，有效解决数据资源提供方和数据使用需求方之间的信息不对称问题，有助于构建更加健康和可持续发展的数据共享、交互和交易体系。
-
公开(公告)号：CN112733196B
公开(公告)日：2021-07-06
申请号：CN202110358755.9
申请日：2021-04-02
Applicant: 之江实验室
IPC: G06F21/62
Abstract: 本发明公开了基于向量混淆的抗成员推理攻击的隐私保护方法和系统，对分类模型输出的预测向量依次进行满足向量可用性约束以及保序性要求的混淆变换和满足随机性、向量可用性约束以及保序性要求的扰动变换，并将变换后的噪声向量作为模型分类结果进行返回。本发明无需对目标分类模型进行修改，且无需了解成员推理攻击的具体技术细节，能够简单、快速地应用于已有的分类模型，开销小，适用范围广；向量可用性约束提供了预测结果可用性和模型隐私保护性间平衡的灵活配置方案；添加的随机扰动显著降低了攻击者根据噪声向量还原出预测向量的可能性，提升了方法的鲁棒性；保序性要求则保障了模型在不降低预测准确率的情况下提升了抗成员推理攻击能力。
-
-
-
Search Results
4
records
(took 0.011 seconds)
