公开(公告)号：CN113780123B

公开(公告)日：2023-08-08

申请号：CN202111001380.7

申请日：2021-08-27

申请人： 广州大学

发明人： 顾钊铨 ,  罗慧丽 ,  陈植钦 ,  谢文嵘 ,  胡卫雄 ,  吴坚鹏 ,  史亚文 ,  乔佳诚 ,  王乐 ,  田志宏 ,  唐可可 ,  张登辉

IPC分类号： G06V40/16 ,  G06V10/25 ,  G06V10/774 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/08

摘要： 本发明公开了一种对抗样本生成方法、系统、计算机设备和存储介质，所述方法包括：对原始人脸图像进行人脸关键点检测，得到人脸的关键点，根据所述关键点构成的掩码区域，得到相对应的掩码矩阵；将原始人脸图像和经过初始化的干扰噪声输入神经网络进行训练，得到第一干扰噪声；将所述第一干扰噪声与所述掩码矩阵相乘，得到干扰区域限制的第二干扰噪声，对所述第二干扰噪声进行高斯滤波，得到第三干扰噪声；将所述第三干扰噪声与所述原始人脸图像相叠加，得到对抗样本；根据预设的迭代条件对所述对抗样本进行多轮迭代计算，得到最终的对抗样本。本发明能够更加精准地实现局部攻击的对抗样本生成效果，提高了人脸对抗样本的抗感知能力和抗检测能力。

公开(公告)号：CN114169532A

公开(公告)日：2022-03-11

申请号：CN202111366061.6

申请日：2021-11-18

申请人： 广州大学

发明人： 顾钊铨 ,  罗慧丽 ,  王乐 ,  邱俊杰 ,  谢文嵘 ,  陈植钦 ,  董法山 ,  唐可可 ,  张登辉 ,  李树栋 ,  李默涵 ,  仇晶

IPC分类号： G06N20/00

摘要： 本发明公开了一种基于自适应信赖域半径校正生成对抗样本的方法，包括如下步骤：步骤S1，输入原始图像X，将其表示成a×b的矩阵D，在矩阵D中进行核心区域定位；步骤S2，采用自适应信赖域半径校正算法限制图片的扰动范围，得到基于信赖域半径校正算法的对抗样本。

公开(公告)号：CN113780123A

公开(公告)日：2021-12-10

申请号：CN202111001380.7

申请日：2021-08-27

申请人： 广州大学

发明人： 顾钊铨 ,  罗慧丽 ,  陈植钦 ,  谢文嵘 ,  胡卫雄 ,  吴坚鹏 ,  史亚文 ,  乔佳诚 ,  王乐 ,  田志宏 ,  唐可可 ,  张登辉

IPC分类号： G06K9/00 ,  G06K9/32 ,  G06K9/62 ,  G06N3/04 ,  G06N3/08

摘要： 本发明公开了一种对抗样本生成方法、系统、计算机设备和存储介质，所述方法包括：对原始人脸图像进行人脸关键点检测，得到人脸的关键点，根据所述关键点构成的掩码区域，得到相对应的掩码矩阵；将原始人脸图像和经过初始化的干扰噪声输入神经网络进行训练，得到第一干扰噪声；将所述第一干扰噪声与所述掩码矩阵相乘，得到干扰区域限制的第二干扰噪声，对所述第二干扰噪声进行高斯滤波，得到第三干扰噪声；将所述第三干扰噪声与所述原始人脸图像相叠加，得到对抗样本；根据预设的迭代条件对所述对抗样本进行多轮迭代计算，得到最终的对抗样本。本发明能够更加精准地实现局部攻击的对抗样本生成效果，提高了人脸对抗样本的抗感知能力和抗检测能力。

公开(公告)号：CN115329326A

公开(公告)日：2022-11-11

申请号：CN202210791872.9

申请日：2022-07-07

申请人： 广州大学

发明人： 顾钊铨 ,  李钊华 ,  王乐 ,  董法山 ,  罗慧丽 ,  江钦辉 ,  孙精灵 ,  陈植钦 ,  廖续鑫 ,  田志宏 ,  李默涵 ,  韩伟红 ,  方滨兴

IPC分类号： G06F21/55

摘要： 本发明涉及人工智能技术领域，且公开一种了人工智能安全评测方法及系统，该系统其包括交互模块、上传模块、上传资源管理模块、评测模块、可视化模块、修复与防御模块，所述交互模块输出端与上传模块输入端信号连接，所述上传模块输出端与上传资源管理模块输入端信号连接，通过各模块共同作用下可以更全面地衡量AI应用中存在的安全性问题。本发明从AI应用开发到部署的五大要素进行细粒度的评测，为AI应用的安全性提升提供基础，根据评测发现的问题指定解决方案，为AI应用落地保驾护航。本发明提出的系统可针对AI应用进行细粒度的评测，同时会根据其存在的安全问题制定相应的解决方案，对问题进行修复或设立防御措施来缓解安全问题。

公开(公告)号：CN113205180A

公开(公告)日：2021-08-03

申请号：CN202110549341.4

申请日：2021-05-20

申请人： 广州大学

发明人： 王乐 ,  李钊华 ,  董法山 ,  顾钊铨 ,  陈光耀 ,  罗慧丽 ,  江钦辉 ,  孙精灵 ,  陈植钦 ,  廖续鑫 ,  田志宏 ,  李默涵 ,  韩伟红 ,  方滨兴

IPC分类号： G06N3/04 ,  G06N3/08 ,  G06K9/62

摘要： 本发明公开了一种横向联邦学习的自适应性参数融合方法，包括：步骤S1，初始化全局神经网络模型和后置参数并同步各参与方模型参数；步骤S2，将参与方排序；步骤S3，依序选择参与方进行第一阶段的模型训练，各参与方利用批数据仅更新自身的模型参数；步骤S4，第二阶段，依次遍历所有参与方，选择批训练数据和前一个参与方l‑1的后置参数Hl‑1进行局部模型参数融合得到当前参与方后置参数Hl，并计算批数据的损失值，得到当前参与方的计算图，在所有计算图构建完毕后，基于梯度下降最小化损失值更新融合参数；步骤S5，将各参与方的模型参数Wl改变为其后置参数Hl；步骤S6，重复S3‑S5，直至达到设定的迭代次数。