发明授权
- 专利标题: 一种基于本征特征迁移的深度模型压缩方法
-
申请号: CN201911276620.7申请日: 2019-12-13
-
公开(公告)号: CN111144456B公开(公告)日: 2023-07-18
- 发明人: 张金霞 , 魏海坤 , 张侃健
- 申请人: 东南大学
- 申请人地址: 江苏省南京市玄武区四牌楼2号
- 专利权人: 东南大学
- 当前专利权人: 东南大学
- 当前专利权人地址: 江苏省南京市玄武区四牌楼2号
- 代理机构: 南京众联专利代理有限公司
- 代理商 杜静静
- 主分类号: G06V10/764
- IPC分类号: G06V10/764 ; G06V10/82 ; G06N3/0464 ; G06N3/08
摘要:
本发明涉及一种基于本征特征迁移的深度模型压缩方法,所述方法包括以下步骤:基于奇异值分解方法,将老师深度模型中的一组特征图进行分解,提取老师深度模型中的本征特征图组;将学生深度模型中的一组特征图与老师深度模型中的本征特征图组进行对齐;基于奇异值计算各本征特征图的权重;通过最小化学生深度模型中特征图组和老师深度模型中本征特征图组的加权差值,将老师深度模型中的本征特征迁移给学生深度模型,从而提高学生深度模型的性能。本发明提取老师深度模型中最本质的本征特征图,并有效迁移给学生深度模型,有助于提高深度模型压缩的精度,获得高性能的学生深度模型。
公开/授权文献
- CN111144456A 一种基于本征特征迁移的深度模型压缩方法 公开/授权日:2020-05-12