发明公开
- 专利标题: 一种基于自监督和自蒸馏的长尾图像识别方法
-
申请号: CN202111026141.7申请日: 2021-09-02
-
公开(公告)号: CN113837238A公开(公告)日: 2021-12-24
- 发明人: 王利民 , 李天昊 , 武港山
- 申请人: 南京大学
- 申请人地址: 江苏省南京市栖霞区仙林大道163号
- 专利权人: 南京大学
- 当前专利权人: 南京大学
- 当前专利权人地址: 江苏省南京市栖霞区仙林大道163号
- 代理机构: 南京天翼专利代理有限责任公司
- 代理商 奚铭
- 主分类号: G06K9/62
- IPC分类号: G06K9/62 ; G06K9/46 ; G06N3/04 ; G06N3/08
摘要:
一种基于自监督和自蒸馏的长尾图像识别方法,构建多阶段的训练框架训练特征提取网络,第一阶段在长尾分布采样下利用自监督训练特征提取网络,第二阶段在保留第一阶段特征提取网络权重的情况下,在类别平衡采样下微调特征提取网络的分类器,生成用于自蒸馏的软标签,第三阶段丢弃之前的权重,在长尾分布采用下利用软标签作为监督对特征提取网络进行自蒸馏联合训练,得到的特征提取网络用于长尾分布下的图像识别分类。本发明针对长尾数据的特征提取网络提出一种利用自监督和自蒸馏的多阶段训练方法,利用自监督方法对尾部类别得到充分的表征,同时利用自蒸馏的方法将头部类别的知识有效迁移到尾部类别中。
公开/授权文献
- CN113837238B 一种基于自监督和自蒸馏的长尾图像识别方法 公开/授权日:2023-09-01