发明公开
- 专利标题: 提高回归网络鲁棒性的正则化方法、系统、计算机系统及可读存储介质
-
申请号: CN202410387881.0申请日: 2024-04-01
-
公开(公告)号: CN118551826A公开(公告)日: 2024-08-27
- 发明人: 徐梁 , 宋娇娇 , 杨洋 , 任肖强 , 刘晗笑 , 赵国翔 , 汪小帆 , 彭艳
- 申请人: 上海大学
- 申请人地址: 上海市宝山区上大路99号
- 专利权人: 上海大学
- 当前专利权人: 上海大学
- 当前专利权人地址: 上海市宝山区上大路99号
- 代理机构: 上海智晟知识产权代理事务所
- 代理商 李镝的
- 主分类号: G06N3/094
- IPC分类号: G06N3/094 ; G06F18/27
摘要:
本发明涉及一种提高回归网络鲁棒性的正则化方法、系统、计算机系统及可读存储介质。正则化方法包括:确定数据集中距离目标点位最近的点位;计算目标点位的利普希茨常数;计算目标点位的扰动半径;惩罚网络响应随输入扰动而产生输出变化幅度超过利普希茨常数的情况,确定正则化项;执行回归网络的优化。正则化系统包括点位确定模块、利普希茨常数计算模块、扰动半径计算模块、正则化项确定模块及回归网络优化模块。本发明提出的正则化方法,通过在损失函数中加入正则化项来惩罚输入扰动引起神经网络输出变化幅度超过利普希茨常数的情况,保证训练得到的神经网络回归器在受到对抗攻击时其响应被限制在合理范围内,可以通用且有效地提高回归网络的鲁棒性。