一种知识图谱嵌入模型数据投毒效果评估方法

    公开(公告)号:CN116050518A

    公开(公告)日:2023-05-02

    申请号:CN202211426092.0

    申请日:2022-11-14

    Applicant: 广州大学

    Abstract: 本发明涉及知识图谱嵌入数据投毒领域,且公开了一种知识图谱嵌入模型数据投毒效果评估方法,在MRR的基础上兼顾了数据投毒的毒化性和隐蔽性,可以更好地衡量不同数据投毒攻击对于知识图谱的影响程度,可以更好地衡量对知识图谱嵌入数据投毒的效果;本发明提出的指标使得不同的数据投毒攻击在同一个模型上可以互相比较,通过调整参数a,指标可以偏向毒化性或者隐蔽性。

    众包知识验证环境下众包工人可靠性模型建立方法及装置

    公开(公告)号:CN111444332B

    公开(公告)日:2023-04-18

    申请号:CN202010179259.2

    申请日:2020-03-13

    Applicant: 广州大学

    Abstract: 本发明公开了众包知识验证环境下众包工人可靠性模型建立方法及装置。所述方法包括:根据预存策略,对众包用户匹配知识领域集,并向众包用户分配知识领域集中的知识,使众包用户验证知识,得到知识标签;基于强化学习算法建立众包工人可靠性模型,并通过众包工人可靠性模型计算知识标签的奖励值,以根据奖励值更新预存策略;重复执行上述操作直至预存策略的更新次数达到预设次数,根据最新的预存策略对众包用户进行资格筛选;在知识验证完成后,将验证正确的知识加入对应的知识图谱。本发明能够基于强化学习,在众包验证环境下建立众包工人可靠性模型,实现对众包工人进行资格筛选,从而提高众包知识验证的效率。

    一种基于自注意力机制的双分支人脸伪造检测方法

    公开(公告)号:CN115546864A

    公开(公告)日:2022-12-30

    申请号:CN202211142745.2

    申请日:2022-09-20

    Applicant: 广州大学

    Abstract: 本发明涉及一种基于自注意力机制的双分支人脸伪造检测方法,包括步骤:S1、利用多任务级联卷积神经人脸检测网络获取只包含人脸区域的图像,将其输入随机隐写分析丰富模型SRM中获取噪声图像;S2、将RGB图像和噪声图像分别输入到两个参数不共享的PBoT分支网络中,提取相应的特征;S3、利用双线性池化层对两个网络提取的特征进行融合,并通过全连通层和softmax层来预测输入的人脸图像是否为伪造图像。本发明通过SRM的双分支结构,以捕获视觉伪造伪影及局部噪声特征的不一致性,提高压缩处理后的人脸图像伪造检测准确率;在特征提取中引自注意机制,采用融合卷积和自我注意的混合模型来学习局部和全局图像特征,提高人脸伪造检测准确率。

    一种联邦学习过程中泄露输入信息的风险评估指标方法

    公开(公告)号:CN115495779A

    公开(公告)日:2022-12-20

    申请号:CN202211115765.0

    申请日:2022-09-14

    Applicant: 广州大学

    Abstract: 本发明涉及人工智能技术领域,公开了一种联邦学习过程中泄露输入信息的风险评估指标方法,包括以下步骤:S1:参与方选取一批个数为B的待训练样本(X,Y),并计算批样本梯度G和其中各样本的梯度G(i);S2:选取某一样本x(i),计算所选样本的梯度信息比InfoR(x(i));S3:通过梯度信息比InfoR(x(i)),获取样本x(i)被批样本梯度G所泄露的风险程度,以达到输入样本特征泄露风险的评估。本发明可以满足参与方针对隐私重要性较高的样本给予更小的隐私预算,即不同样本给予不同的隐私保护强度,从而满足差异化隐私保护的目的,从而减小了隐私保护策略对模型训练和可用性的影响。

    一种学习过程中模型梯度泄露输入信息的风险评估方法

    公开(公告)号:CN115329337A

    公开(公告)日:2022-11-11

    申请号:CN202210799021.9

    申请日:2022-07-08

    Applicant: 广州大学

    Abstract: 本发明涉及人工智能技术领域,公开了一种学习过程中模型梯度泄露输入信息的风险评估方法,包括以下步骤:S1:对本地数据集进行采样,得到本地采样数据集;S2:分析本地采样数据集,从而得到本地采样数据样本的参数梯度;S3:计算本地采样数据样本与采样样本参数梯度的互信息值;S4:当该互信息值达到设定程度时,发出隐私泄露风险提醒,否则将该参数梯度上传至服务器。该学习过程中模型梯度泄露输入信息的风险评估方法,与现有的梯度泄露输入的指标相比,梯度信息比可以衡量批样本中的每个样本被批样本梯度泄露的风险程度,不同样本的隐私重要性不同,那么参与方对所上传的批样本梯度将会引入隐私保护的机制。

    针对多轮次数据投毒攻击的Optimized TruthFinder方法

    公开(公告)号:CN115277039A

    公开(公告)日:2022-11-01

    申请号:CN202210271452.8

    申请日:2022-03-18

    Applicant: 广州大学

    Abstract: 本发明涉及数据投毒技术领域,且公开了针对多轮次数据投毒攻击的Optimized TruthFinder方法,平台发布任务为24小时每个整点由N个工人对某个物体的M个属性进行观察,N个工人接受任务后,平台对N个工人的权重进行初始化,初始化方式为平均权重,每个工人的权重为当工人观测结束后,将观测数据提交到平台中去。该针对多轮次数据投毒攻击的Optimized TruthFinder方法,可以防御隐藏‑攻击策略的数据投毒攻击,缓解传统TruthFinder对于工人权重设置震荡过大的问题,本发明充分考虑了多轮次的数据投毒攻击场景,考虑了恶意工人可能会采取隐藏行为来获得高权重的情况,对传统TruthFinder的权重更新做了进一步限制,使得恶意工人很难在短时间获取高的权重。

    一种疫情感染风险评估方法

    公开(公告)号:CN112669978B

    公开(公告)日:2022-03-04

    申请号:CN202011317829.6

    申请日:2020-11-23

    Applicant: 广州大学

    Abstract: 本发明公开了一种疫情感染风险评估方法,包括:获取患者的移动终端号或身份证号,并根据移动终端号或身份证号从运营商轨迹接口中获取患者对应的轨迹信息;从患者的轨迹信息中提取基站轨迹,并通过通行方式判断算法得到患者通过基站时的通行方式;根据基站轨迹获取患者进出基站时间,并将患者进出基站时间按照预设时间片进行时间片切分;统计预设时间内进出基站相同通行方式相同时间片内的人数,将相同通行方式的人数乘以对应的权重,得到每个通行方式的风险值,再将基站所有通行方式的风险值相加,得到基站的疫情感染风险度,实现地区的疫情感染风险评估。本发明实现了地区和个人的疫情感染风险自动评估,且评估依据多,评估结果准确。

    一种对抗样本防御方法、系统、计算机及介质

    公开(公告)号:CN113780363A

    公开(公告)日:2021-12-10

    申请号:CN202110946024.6

    申请日:2021-08-17

    Applicant: 广州大学

    Abstract: 本发明提供了一种对抗样本防御方法、系统、计算机及介质,所述方法包括获取待检测图像样本;分别采用不同的去噪方法对待检测图像样本进行去噪处理,得到对应的第一去噪样本和第二去噪样本;将待检测图像样本、第一去噪样本和第二去噪样本分别输入深度神经网络模型,得到对应的待检测样本概率向量、第一去噪样本概率向量和第二去噪样本概率向量;分别获取待检测图像样本概率向量与第一去噪样本概率向量的第一相似度、以及与第二去噪样本概率向量的第二相似度,并根据第一相似度和第二相似度,判断待检测图像样本是否为对抗样本。本发明能够简单、高效且精准的识别对抗样本及给出对应的预测类别,有效提升对抗样本的防御能力及模型的服务能力。

Patent Agency Ranking