一种基于蒸馏的轻量化无人机单目标跟踪方法
摘要:
本发明提供一种基于蒸馏的轻量化无人机单目标跟踪方法,属于目标跟踪领域。本发明的主干网络为一个轻量化的ViT‑Base模型,其层数和通道数分别为3和128,总参数量仅为1.428M。轻量化后的ViT‑Base模型大大减少了在推理过程中的时间消耗和内存占用,从而达到模型加速和轻量化的目的。为了有效提高模型的性能,本发明采用多层特征蒸馏的方法,将轻量化模型作为学生模型,ViT‑Base大模型作为教师模型完成模型训练。轻量化模型在训练之初加载预训练的MAE权重参数完成模型初始化。加载预训练权重参数,大大提高了模型的收敛速度并有效提高了模型的泛化性和鲁棒性。
公开/授权文献
0/0