公开(公告)号：CN118097452A

公开(公告)日：2024-05-28

申请号：CN202410389617.0

申请日：2024-04-02

申请人： 电子科技大学长三角研究院(湖州)

发明人： 张成 ,  丁卓越 ,  黄磊 ,  叶润 ,  闫斌 ,  周小佳

IPC分类号： G06V20/13 ,  G06V10/82 ,  G06N3/0464 ,  G06N3/082

摘要： 本发明属于森林火灾检测技术领域，公开了一种实时检测森林火灾的超轻量化模型、设计方法及系统，采集森林火灾图像样本；对样本进行预处理，并标注预处理后的图像样本；将标注后的图像样本划分为训练集和测试集；设计轻量化模型，并作为教师模型；使用训练集对教师模型进行训练，获取教师模型中间层的全局特征和局部特征；剔除教师模型中的冗余通道，并将剪枝后的模型作为学生模型；将教师模型的中间层特征传递给学生模型；使用训练集对学生模型进行训练；对蒸馏后的学生模型进行量化感知训练。本发明的模型不仅占用较少的计算资源，还具备高准确性和实时检测的特性，提供可在资源受限环境中有效运行的森林火灾检测解决方案。

公开(公告)号：CN116776951A

公开(公告)日：2023-09-19

申请号：CN202310660179.2

申请日：2023-06-05

申请人： 电子科技大学长三角研究院(湖州)

发明人： 黄磊 ,  丁卓越 ,  张成 ,  叶润 ,  闫斌 ,  周小佳

IPC分类号： G06N3/082 ,  G06N3/0464 ,  G06V10/44 ,  G06V10/82 ,  G06V10/774 ,  G06N3/048

摘要： 本发明属于轻量化网络设计技术领域，公开了一种先剪枝再蒸馏的轻量化网络构建方法、系统、介质及终端，根据归一化特征图与输出特征图确定批标准化层的通道缩放因子；对所述批标准化层的通道缩放因子进行稀疏化处理，基于稀疏化后的通道缩放因子与预设的全局阈值之间的关系进行CNN模型的通道剪枝处理；分别训练剪枝后的CNN模型与剪枝前的CNN模型进行知识蒸馏得到轻量化网络。本发明不仅能够快速实现CNN模型的轻量化设计，还进一步提高了轻量化网络的学习能力和泛化能力。因此，具有非常好的可扩展性和灵活的可移植性，能够满足资源受限的嵌入式设备的部署需要。

公开(公告)号：CN116778295A

公开(公告)日：2023-09-19

申请号：CN202310655889.6

申请日：2023-06-05

申请人： 电子科技大学长三角研究院(湖州)

发明人： 黄磊 ,  丁卓越 ,  张成 ,  叶润 ,  闫斌 ,  周小佳

IPC分类号： G06V10/82 ,  G06N3/048 ,  G06V10/774 ,  G06T3/40

摘要： 本发明属于模型压缩技术领域，公开了一种自适应调节知识蒸馏温度的模型压缩方法、系统及介质，采集图像样本，对图像样本中的异常数据和缺失数据进行数据清洗，包括直接丢弃异常数据和采用最邻近插值或双线性插值法恢复缺失数据；采用Mosaic‑4数据增强方法随机对图像样本进行翻转、缩放、裁剪等操作，并任意选取4张变换后的图像进行拼接，进而增强图像样本；建立最小化自适应蒸馏损失函数，完成教师模型的知识到学生模型的传递，实现知识蒸馏；采用训练集对学生模型进行训练，确定最优化的总损失函数，实现模型压缩。本发明更好地平衡教师模型知识向学生模型的传递，进而获得更轻量化的学生模型。