发明公开
- 专利标题: 基于训练质量分析的超参数优化方法、装置及电子设备
-
申请号: CN202410326051.7申请日: 2024-03-21
-
公开(公告)号: CN117933370A公开(公告)日: 2024-04-26
- 发明人: 裴忠一 , 岑知遥 , 黄亦芃 , 龙明盛 , 王建民
- 申请人: 清华大学
- 申请人地址: 北京市海淀区双清路30号清华大学清华园北京100084-82信箱
- 专利权人: 清华大学
- 当前专利权人: 清华大学
- 当前专利权人地址: 北京市海淀区双清路30号清华大学清华园北京100084-82信箱
- 代理机构: 北京路浩知识产权代理有限公司
- 代理商 王庆龙
- 主分类号: G06N3/0985
- IPC分类号: G06N3/0985 ; G06F17/18 ; G06N3/0499
摘要:
本发明涉及机器学习技术领域,提供一种基于训练质量分析的超参数优化方法、装置及电子设备,其中的方法包括:获取当前超参数试验的监测变量统计值,以及训练质量变量;根据监测变量统计值和所述训练质量变量,计算训练质量指标;在训练质量指标满足超参数试验停止条件的情况下,停止当前超参数试验,并调整在后超参数试验的超参数。该方法通过在超参数优化过程中引入训练质量指标,显著提升了深度神经网络超参数优化过程中效率和性能的平衡问题,能够及时发现存在训练质量问题的超参数试验并提前终止,节省了计算资源,还提升了实验效率。