深度卷积神经网络量化剪枝联合优化的方法及系统
摘要:
本发明公开了一种深度卷积神经网络量化剪枝联合优化的方法及系统,属于图像处理技术领域,方法包括:获取待处理对象图像的数据集;利用所述数据集训练待优化神经网络模型,并初始化神经网络模型参数,神经网络模型参数包括评价网络、执行网络、目标评价网络和目标执行网络参数;使用基于强化学习的量化剪枝策略学习方法得到神经网络模型最优的权重剪枝率、权重量化率、输入特征量化率;使用基于蒸馏和量化熵正则后训练方法重新训练神经网络,得到优化后的神经网络模型参数;利用最优的权重剪枝率、权重量化率、输入特征量化率对神经网络模型进行优化,得到最终的神经网络模型。本发明使深度卷积神经网络提升了模型性能,实现了加速与压缩。
0/0