公开(公告)号：CN116263735A

公开(公告)日：2023-06-16

申请号：CN202111528324.9

申请日：2021-12-14

申请人： 中科南京软件技术研究院

发明人： 薛云志 ,  孟令中 ,  曾昊 ,  高卉 ,  戴非凡 ,  武斌

IPC分类号： G06F11/34 ,  G06N3/04

摘要： 本申请涉及人工智能领域，具体涉及一种神经网络的鲁棒性评估方法、装置、设备及存储介质，所述方法包括：基于待评估神经网络的应用任务，构建鲁棒性评估模型，鲁棒性评估模型包括量化评估指标以及n个级别的度量元；获取至少一个测试数据集，测试数据集与n个级别的度量元中n级度量元的标签一一对应；基于至少一个测试数据集对待评估神经网络进行测试，得到n级度量元的标签分别对应的测试值；对n级度量元的标签分别对应的测试值进行层次分析计算，得到量化评估指标的指标评估值，用于指示待评估神经网络的鲁棒性。由于鲁棒性评估模型基于待评估神经网络的应用任务构建，与应用任务高度匹配，从而n级度量元的标签可覆盖全部场景的数据。

公开(公告)号：CN116263735B

公开(公告)日：2024-11-01

申请号：CN202111528324.9

申请日：2021-12-14

申请人： 中科南京软件技术研究院

发明人： 薛云志 ,  孟令中 ,  曾昊 ,  高卉 ,  戴非凡 ,  武斌

IPC分类号： G06F11/34 ,  G06N3/04

摘要： 本申请涉及人工智能领域，具体涉及一种神经网络的鲁棒性评估方法、装置、设备及存储介质，所述方法包括：基于待评估神经网络的应用任务，构建鲁棒性评估模型，鲁棒性评估模型包括量化评估指标以及n个级别的度量元；获取至少一个测试数据集，测试数据集与n个级别的度量元中n级度量元的标签一一对应；基于至少一个测试数据集对待评估神经网络进行测试，得到n级度量元的标签分别对应的测试值；对n级度量元的标签分别对应的测试值进行层次分析计算，得到量化评估指标的指标评估值，用于指示待评估神经网络的鲁棒性。由于鲁棒性评估模型基于待评估神经网络的应用任务构建，与应用任务高度匹配，从而n级度量元的标签可覆盖全部场景的数据。