公开(公告)号：CN117762816A

公开(公告)日：2024-03-26

申请号：CN202410024407.1

申请日：2024-01-08

申请人： 中科南京软件技术研究院 ,  中国科学院软件研究所

发明人： 黄承超 ,  李仞珏 ,  杨鹏飞 ,  张立军

IPC分类号： G06F11/36 ,  G06N3/084 ,  G06N3/0985

摘要： 本发明提供了一种自动驾驶系统仿真测试方法、系统、设备及存储介质，方法包括：确定场景参数与安全性指标；对场景参数进行随机采样，形成多组参数数值组合；将参数数值组合导入驾驶仿真器执行一次行驶任务，采集得到安全性指标；建立神经网络模型，用采集到的数据对神经网络模型进行训练；将形成的多组参数数值组合输入到训练后的模型中，输出近似的安全性指标，检验其是否满足安全要求：若不满足，则将其所属的参数数值组合作为潜在反例，放回驾驶仿真器中得到新的安全性指标，检验新的安全性指标是否满足安全要求：若不满足，则发现一个导致系统出现不安全行为的场景参数数值组合，输出告知测试者。该方法可以提高测试过程的效率。

公开(公告)号：CN117762816B

公开(公告)日：2024-10-18

申请号：CN202410024407.1

申请日：2024-01-08

申请人： 中科南京软件技术研究院 ,  中国科学院软件研究所

发明人： 黄承超 ,  李仞珏 ,  杨鹏飞 ,  张立军

IPC分类号： G06F11/36 ,  G06N3/084 ,  G06N3/0985

摘要： 本发明提供了一种自动驾驶系统仿真测试方法、系统、设备及存储介质，方法包括：确定场景参数与安全性指标；对场景参数进行随机采样，形成多组参数数值组合；将参数数值组合导入驾驶仿真器执行一次行驶任务，采集得到安全性指标；建立神经网络模型，用采集到的数据对神经网络模型进行训练；将形成的多组参数数值组合输入到训练后的模型中，输出近似的安全性指标，检验其是否满足安全要求：若不满足，则将其所属的参数数值组合作为潜在反例，放回驾驶仿真器中得到新的安全性指标，检验新的安全性指标是否满足安全要求：若不满足，则发现一个导致系统出现不安全行为的场景参数数值组合，输出告知测试者。该方法可以提高测试过程的效率。

公开(公告)号：CN118839718A

公开(公告)日：2024-10-25

申请号：CN202410798265.4

申请日：2024-06-20

申请人： 中国科学院软件研究所

发明人： 刘宗鑫 ,  杨鹏飞 ,  张立军

IPC分类号： G06N3/04 ,  G06N3/082 ,  G06N3/08

摘要： 本发明公开一种基于冲突子句学习与预测的神经网络验证方法及系统，所述方法包括：获取神经网络、输入约束以及待验证性质；对神经网络进行输入空间的划分以及神经元节点的依赖分析，得到多个子问题和节点依赖关系；通过在输入约束的约束范围内对神经网络的输入进行均匀随机采样，并基于采样点使用神经网络攻击算法对神经网络进行攻击后，依据攻击结果得到由若干个神经元节点的状态组合构成的预测子句；将节点依赖关系和预测子句编码为约束添加到第一冲突子句池，并利用第一冲突子句池对每一子问题进行性质验证后，基于子问题的性质验证结果以及所有预测子句的性质验证结果，得到神经网络的性质验证结果。本发明可以提高神经网络的验证效率。