基于Transformer的动态稀疏化结合原型的分类方法及装置

    公开(公告)号:CN115937634A

    公开(公告)日:2023-04-07

    申请号:CN202211612894.0

    申请日:2022-12-15

    申请人: 浙江大学

    摘要: 本发明公开了一种基于Transformer的动态稀疏化结合原型的分类方法及装置,该方法包含:对Vision Transformer进行图像分类训练得到基于Vision Transformer的第一图像子块特征提取器;将第一图像特征提取器作为教师模型采用蒸馏的方式对具有动态稀疏化能力的Vision Transformer进行图像分类训练得到基于Vision Transformer并具有动态稀疏化能力的第二图像子块特征提取器;对训练图像进行特征提取并学习得到不同种类对应的多个原型;对待分类图像进行原型匹配得到对应的分类结果。本发明的基于Transformer的动态稀疏化结合原型的分类方法及装置,相比于一般的使用卷积神经网络的基于原型的分类方法,本发明采用Transformer模型,可以更好的区别图像子块,对原型激活的图像子块区域可以更精准的定位,提高了模型的可解释性。