公开(公告)号：CN113485932A

公开(公告)日：2021-10-08

申请号：CN202110809196.9

申请日：2021-07-16

申请人： 深圳市网联安瑞网络科技有限公司

发明人： 李志鹏 ,  石岩 ,  廖勇 ,  石珺 ,  易勇 ,  杨阳朝

IPC分类号： G06F11/36

摘要： 本发明公开是关于深度学习代码缺陷检测方法、系统、产品、设备、终端，涉及软件安全测试技术领域。生成模型的不同实现；将相同的输入样本通过不同的实现模型处理，得到输出结果；比对输出结果是否相同；如不相同，则反馈存在代码缺陷，并指导设计蜕变关系进行蜕变测试；否则进入蜕变测试，生成具有蜕变关系的输入样本对；将具有蜕变关系的输入对通过深度学习模型处理，得到输出对结果；比对该输出对是否具有对应的蜕变关系；如无对应的蜕变关系则反馈代码缺陷；否则，表明该模型不存在代码缺陷。本发明提出的技术方案能够对于深度学习代码缺陷提供一种更高准确率和定位能力的检测方法，在代码层面上消除深度学习模型存在的缺陷和隐患。

公开(公告)号：CN113505886A

公开(公告)日：2021-10-15

申请号：CN202110775901.8

申请日：2021-07-08

申请人： 深圳市网联安瑞网络科技有限公司

发明人： 李志鹏 ,  石岩 ,  廖勇 ,  石珺 ,  杨阳朝 ,  易勇

IPC分类号： G06N3/08 ,  G06N3/04 ,  G06K9/62 ,  G06K9/00 ,  G06F21/57

摘要： 本发明公开了基于模糊测试的对抗样本生成方法、系统、终端及介质，涉及人工智能、网络空间安全技术领域。在黑盒模型场景下，自动生成对抗样本；对生成样本的对抗性通过深度神经网络的输出结果进行评价；基于线性变换的突变、基于仿射变换的突变、基于噪声的突变和基于点的突变，提升整个突变过程的可解释性以及使突变过程具有可重复性；在白盒模型场景下对生成的对抗样本于模型中的激活覆盖率数值进行分析，计算突变方向以生成对抗性更强的对抗样本，同时对模型进行进一步优化。本发明在机器学习和深度学习领域的攻防上占据优势，甚至在更早的训练模型阶段提前规避潜在的威胁和攻击。