一种基于本征特征迁移的深度模型压缩方法
摘要:
本发明涉及一种基于本征特征迁移的深度模型压缩方法,所述方法包括以下步骤:基于奇异值分解方法,将老师深度模型中的一组特征图进行分解,提取老师深度模型中的本征特征图组;将学生深度模型中的一组特征图与老师深度模型中的本征特征图组进行对齐;基于奇异值计算各本征特征图的权重;通过最小化学生深度模型中特征图组和老师深度模型中本征特征图组的加权差值,将老师深度模型中的本征特征迁移给学生深度模型,从而提高学生深度模型的性能。本发明提取老师深度模型中最本质的本征特征图,并有效迁移给学生深度模型,有助于提高深度模型压缩的精度,获得高性能的学生深度模型。
公开/授权文献
0/0