神经网络模型推理所需最小内存占用量的估计方法和装置
摘要:
本发明公开了一种神经网络模型推理所需最小内存占用量的估计方法和装置,属于神经网络应用领域。该方法以图理论作为核心思想,将神经网络的计算逻辑用有向无环图来描述,把神经网络模型的推理过程映射成图的拓扑排序过程,再对搜索树进行剪枝以得到对最小内存占用量的估计以及对应的算子执行序列。边缘设备智能性的需求日益增大,本发明为神经网络模型在边缘设备上运行与设计提供了信息支撑,对边缘设备的智能性有着贡献。
0/0