- 专利标题: 神经网络模型推理所需最小内存占用量的估计方法和装置
-
申请号: CN202310052812.X申请日: 2023-02-03
-
公开(公告)号: CN115809699B公开(公告)日: 2023-06-23
- 发明人: 李超
- 申请人: 之江实验室
- 申请人地址: 浙江省杭州市余杭区中泰街道之江实验室南湖总部
- 专利权人: 之江实验室
- 当前专利权人: 之江实验室
- 当前专利权人地址: 浙江省杭州市余杭区中泰街道之江实验室南湖总部
- 代理机构: 杭州求是专利事务所有限公司
- 代理商 邱启旺
- 主分类号: G06N3/082
- IPC分类号: G06N3/082 ; G06N5/04 ; G06F16/901 ; G06N3/06
摘要:
本发明公开了一种神经网络模型推理所需最小内存占用量的估计方法和装置,属于神经网络应用领域。该方法以图理论作为核心思想,将神经网络的计算逻辑用有向无环图来描述,把神经网络模型的推理过程映射成图的拓扑排序过程,再对搜索树进行剪枝以得到对最小内存占用量的估计以及对应的算子执行序列。边缘设备智能性的需求日益增大,本发明为神经网络模型在边缘设备上运行与设计提供了信息支撑,对边缘设备的智能性有着贡献。
公开/授权文献
- CN115809699A 神经网络模型推理所需最小内存占用量的估计方法和装置 公开/授权日:2023-03-17