一种基于通道剪枝的模型压缩方法及装置

    公开(公告)号:CN116702860A

    公开(公告)日:2023-09-05

    申请号:CN202310692243.5

    申请日:2023-06-09

    摘要: 本申请公开了一种基于通道剪枝的模型压缩方法及装置。根据特征图(又叫通道)的结构相似性和细节丰富度,去除不符合预设条件的特征图,得到待训练剪枝模型。训练待训练教师模型,得到侧重表征学习的第一教师模型和侧重分类学习的第二教师模型,将二者进行知识融合后指导待训练剪枝模型的训练,最终用于压缩模型。通过评估特征图的结构相似性和细节丰富度来衡量通道的重要性,可以有效地捕获缺陷类别的特征,从而有助于缓解类别失衡问题。另外,融合两个教师模型的知识能兼顾剪枝模型的表征学习和分类学习,也改善了类不平衡问题。