自适应学习率协同优化的目标识别方法、装置及电子设备
摘要:
本申请实施例提供了自适应学习率协同优化的目标识别方法、装置及电子设备。在本实施例中,借鉴PID的设计思想,在深度学习常用的梯度下降算法比如Adam算法等中引入微分控制环节,实现自适应调整模型参数的学习率,加速神经网络模型中模型参数的收敛,避免神经网络模型训练过程中的损失震荡,最终实现了自适应学习率协同优化的目标识别。进一步地,在本实施例中,通过对自适应调整后的学习率进行裁剪,可解决后期因为出现极端学习率而造成模型不收敛或找不到良好的全局最优解的问题。
0/0