一种基于注意力校正特征与边界约束的知识蒸馏方法及系统

    公开(公告)号:CN117973500B

    公开(公告)日:2024-09-03

    申请号:CN202410105437.5

    申请日:2024-01-25

    摘要: 本申请提出一种基于注意力校正特征与边界约束的知识蒸馏方法及系统,方法包括注意力校正特征蒸馏法和边界约束蒸馏法,其中,注意力校正特征蒸馏法主要为:在教师中不引入辅助模块的情况下,利用校正因子蒸馏赋予学生的注意力校正因子以模仿教师的残差校正因子的能力,利用基于注意力的特征蒸馏通过模仿教师的残差校正特征来引导学生学习注意力校正特征;边界约束蒸馏法主要是将硬边界蒸馏和软边界蒸馏进行结合。本申请能够解决现有技术中,通过向教师引入辅助模块或者采用硬边界蒸馏方法难以得到一个轻量级的图像分割学生模型,并且所述两种方法训练得到的学生模型的性能和精度不足的问题。

    一种基于注意力校正特征与边界约束的知识蒸馏方法及系统

    公开(公告)号:CN117973500A

    公开(公告)日:2024-05-03

    申请号:CN202410105437.5

    申请日:2024-01-25

    摘要: 本申请提出一种基于注意力校正特征与边界约束的知识蒸馏方法及系统,方法包括注意力校正特征蒸馏法和边界约束蒸馏法,其中,注意力校正特征蒸馏法主要为:在教师中不引入辅助模块的情况下,利用校正因子蒸馏赋予学生的注意力校正因子以模仿教师的残差校正因子的能力,利用基于注意力的特征蒸馏通过模仿教师的残差校正特征来引导学生学习注意力校正特征;边界约束蒸馏法主要是将硬边界蒸馏和软边界蒸馏进行结合。本申请能够解决现有技术中,通过向教师引入辅助模块或者采用硬边界蒸馏方法难以得到一个轻量级的图像分割学生模型,并且所述两种方法训练得到的学生模型的性能和精度不足的问题。