基于决策边界引导的深度神经网络模型模糊测试方法

    公开(公告)号:CN118820123A

    公开(公告)日:2024-10-22

    申请号:CN202411312996.X

    申请日:2024-09-20

    IPC分类号: G06F11/36 G06N3/0499 G06N3/08

    摘要: 本发明公开了基于决策边界引导的深度神经网络模型模糊测试方法,包括:通过种子选择策略从初始种子集合中选出种子作为由决策边界引导的算法的输入;通过神经元选择策略选出靠近决策边界并且未被激活的神经元,形成神经元集合N;将神经元覆盖率和DNN模型预测差异作为联合优化目标函数,利用该函数来最大化原始样本和生成样本之间的预测差异,并利用梯度上升算法计算扰动,迭代生成对抗样本,以最大限度地激活神经元集合中的神经元;将对抗样本与原始样本一同输入DNN模型中,以检验是否存在误识别现象,并保留被模型误识别的数据以用于模型的重训练。本发明方法解决了现有技术中存在的神经元覆盖率低、变异过程针对性弱的问题。