对生成通用对抗扰动的神经网络进行训练的方法和系统

    公开(公告)号:CN118103853A

    公开(公告)日:2024-05-28

    申请号:CN202280067289.1

    申请日:2022-07-11

    IPC分类号: G06N3/094 G06N3/09 G06N3/047

    摘要: 本公开的实施方式公开了一种用于对生成通用对抗扰动的神经网络进行训练的方法和系统。该方法包括收集多个数据样本。所述多个数据样本中的各个数据样本皆通过有限标签集中的标签来标识。该方法包括训练概率神经网络,以用于通过使以多个受扰数据样本为条件的多个数据样本的有限标签集的条件熵最大化,来将多个数据样本变换成对应的多个受扰数据样本,所述多个受扰数据样本相对于所述多个数据样本具有有界偏差概率。条件熵是未知的。概率神经网络基于对标签的未知条件熵的梯度的迭代估计来训练。该方法还包括基于经训练的概率神经网络来生成通用对抗扰动。