发明公开
- 专利标题: 一种基于TensorRT的视频超分推理方法及装置
-
申请号: CN202311026041.3申请日: 2023-08-15
-
公开(公告)号: CN117217991A公开(公告)日: 2023-12-12
- 发明人: 颜成钢 , 张文豪 , 陈雨中 , 魏宇鑫 , 汪奇挺 , 傅晟 , 付莹 , 郭雨晨 , 赵思成 , 孙垚棋 , 朱尊杰 , 高宇涵 , 王鸿奎 , 赵治栋 , 殷海兵 , 王帅 , 张继勇 , 李宗鹏 , 丁贵广
- 申请人: 杭州电子科技大学丽水研究院
- 申请人地址: 浙江省丽水市莲都区南明山街道大沅街与绿源路交叉口东北侧半导体芯片产业园3号楼
- 专利权人: 杭州电子科技大学丽水研究院
- 当前专利权人: 杭州电子科技大学丽水研究院
- 当前专利权人地址: 浙江省丽水市莲都区南明山街道大沅街与绿源路交叉口东北侧半导体芯片产业园3号楼
- 代理机构: 杭州君度专利代理事务所
- 代理商 朱月芬
- 主分类号: G06T3/40
- IPC分类号: G06T3/40 ; G06N3/0455 ; G06N3/08 ; G06N5/046
摘要:
本发明公开了一种基于TensorRT的视频超分推理方法及装置,首先对视频超分网络进行训练;然后对网络算子进行分析,对常用算子进行整理,对不支持算子进行编写,对于可优化算子做算子融合;最后对于完整的视频超分网络结构,使用TensorRT编写并生成序列化引擎进行推理。本发明提出了视频超分推理落地的新方法,即是使用TensorRT该推理框架进行部署和加速,建立常用算子库将TensorRT算子和Pytorch算子进行对齐,优化部署过程,并能够比在训练框架下的推理有更好的速度和更低的显存占用。