-
公开(公告)号:CN116343009A
公开(公告)日:2023-06-27
申请号:CN202310329084.2
申请日:2023-03-28
IPC分类号: G06V10/82 , G06N3/0495 , G06N3/0464 , G06N3/045
摘要: 本发明公开了三维神经网络处理方法及图像处理方法、系统和存储介质,属于神经网络以及图像处理技术领域。本发明的一种基于分块循环矩阵的三维神经网络处理方法,通过构建分块循环矩阵模型、计算加速模型、全频域模型,克服以往剪枝等模型压缩方法存在的访存、计算不规则等问题,提出使用分块循环矩阵对三维神经网络3D CNN进行压缩,并且进一步利用快速傅立叶变换FFT加速计算,在保持模型结构规则的前提下,取得了显著的存储和计算压缩效果。在此基础上,引入频域内的激活、批归一化和池化操作,进一步消除由于快速傅立叶变换FFT带来的频繁的时域/频域切换开销,从而实现了全频域计算,进一步降低了3D CNN模型推理时的计算开销。