Invention Publication
- Patent Title: 一种基于训练后量化的视频超分方法
-
Application No.: CN202311018629.4Application Date: 2023-08-14
-
Publication No.: CN117274049APublication Date: 2023-12-22
- Inventor: 朱尊杰 , 张文豪 , 魏宇鑫 , 汪奇挺 , 傅晟
- Applicant: 杭州电子科技大学
- Applicant Address: 浙江省杭州市下沙高教园区2号大街
- Assignee: 杭州电子科技大学
- Current Assignee: 杭州电子科技大学
- Current Assignee Address: 浙江省杭州市下沙高教园区2号大街
- Agency: 杭州君度专利代理事务所
- Agent 朱月芬
- Main IPC: G06T3/40
- IPC: G06T3/40 ; G06N5/04

Abstract:
本发明公开了一种基于训练后量化的视频超分方法,首先使用数据集训练FP32的模型,然后使用TensorRT对模型进行部署;最后使用数据集进行int8量化以及校准。本发明提出了视频超分网络的优化方法能够有效的减少参数量,缩短推理时间。并实现部分场景下的落地使用。本发明基于TensorRT对FRVSR做训练后静态量化,并针对量化误差大的层做分组量化,能够保证最终的量化精度,并提出了具体的实现方案,能够有效的优化FRVSR在GPU上的推理部署。
Information query