一种基于TensorRT的视频超分推理方法及装置
摘要:
本发明公开了一种基于TensorRT的视频超分推理方法及装置,首先对视频超分网络进行训练;然后对网络算子进行分析,对常用算子进行整理,对不支持算子进行编写,对于可优化算子做算子融合;最后对于完整的视频超分网络结构,使用TensorRT编写并生成序列化引擎进行推理。本发明提出了视频超分推理落地的新方法,即是使用TensorRT该推理框架进行部署和加速,建立常用算子库将TensorRT算子和Pytorch算子进行对齐,优化部署过程,并能够比在训练框架下的推理有更好的速度和更低的显存占用。
0/0