-
公开(公告)号:CN116702860A
公开(公告)日:2023-09-05
申请号:CN202310692243.5
申请日:2023-06-09
IPC分类号: G06N3/082 , G06N3/0464 , G06V10/82 , G06V10/74 , G06V10/762 , G06V10/764
摘要: 本申请公开了一种基于通道剪枝的模型压缩方法及装置。根据特征图(又叫通道)的结构相似性和细节丰富度,去除不符合预设条件的特征图,得到待训练剪枝模型。训练待训练教师模型,得到侧重表征学习的第一教师模型和侧重分类学习的第二教师模型,将二者进行知识融合后指导待训练剪枝模型的训练,最终用于压缩模型。通过评估特征图的结构相似性和细节丰富度来衡量通道的重要性,可以有效地捕获缺陷类别的特征,从而有助于缓解类别失衡问题。另外,融合两个教师模型的知识能兼顾剪枝模型的表征学习和分类学习,也改善了类不平衡问题。