发明公开
- 专利标题: 一种基于训练后量化的视频超分方法
-
申请号: CN202311018629.4申请日: 2023-08-14
-
公开(公告)号: CN117274049A公开(公告)日: 2023-12-22
- 发明人: 朱尊杰 , 张文豪 , 魏宇鑫 , 汪奇挺 , 傅晟
- 申请人: 杭州电子科技大学
- 申请人地址: 浙江省杭州市下沙高教园区2号大街
- 专利权人: 杭州电子科技大学
- 当前专利权人: 杭州电子科技大学
- 当前专利权人地址: 浙江省杭州市下沙高教园区2号大街
- 代理机构: 杭州君度专利代理事务所
- 代理商 朱月芬
- 主分类号: G06T3/40
- IPC分类号: G06T3/40 ; G06N5/04
摘要:
本发明公开了一种基于训练后量化的视频超分方法,首先使用数据集训练FP32的模型,然后使用TensorRT对模型进行部署;最后使用数据集进行int8量化以及校准。本发明提出了视频超分网络的优化方法能够有效的减少参数量,缩短推理时间。并实现部分场景下的落地使用。本发明基于TensorRT对FRVSR做训练后静态量化,并针对量化误差大的层做分组量化,能够保证最终的量化精度,并提出了具体的实现方案,能够有效的优化FRVSR在GPU上的推理部署。