公开(公告)号：CN116257751A

公开(公告)日：2023-06-13

申请号：CN202310171773.5

申请日：2023-02-23

Applicant: 安徽理工大学

Inventor： 梁兴柱 ,  刘稳 ,  徐良骥 ,  石峥映 ,  方贤进 ,  王列伟 ,  刘潇鹏 ,  顾成杰 ,  来文豪

IPC: G06F18/213 ,  G06F18/25 ,  G06N3/048 ,  G06F18/214 ,  G06N3/08 ,  G06N3/0464

Abstract: 本发明公开了一种基于在线协作与特征融合的蒸馏方法与系统，所述方法包括：步骤1：多尺度提取中间层和最后一层的特征；步骤2；将步骤1得到的特征累加和提前融合；步骤3：将步骤2得到的特征输送到双重注意力网络；步骤4：将步骤3得到的新的特征进行融合形成一个分类器，该融合分类器是作为教师网络去指导学生网络学习。本发明旨在通过特征累加和早融合的方法来充分利用各个学生的表征知识，从而提升各网络的性能。