- 专利标题: 基于芯片多级存储的数据预取方法、装置、设备及介质
-
申请号: CN202311007185.4申请日: 2023-08-11
-
公开(公告)号: CN116737605B公开(公告)日: 2023-11-14
- 发明人: 张殿臣 , 苏刚 , 田野
- 申请人: 上海燧原科技有限公司
- 申请人地址: 上海市浦东新区中国(上海)自由贸易试验区临港新片区业盛路188号A-522室
- 专利权人: 上海燧原科技有限公司
- 当前专利权人: 上海燧原科技有限公司
- 当前专利权人地址: 上海市浦东新区中国(上海)自由贸易试验区临港新片区业盛路188号A-522室
- 代理机构: 北京品源专利代理有限公司
- 代理商 王瑞云
- 主分类号: G06F12/0862
- IPC分类号: G06F12/0862 ; G06F12/0893 ; G06F12/0891 ; G06N3/063
摘要:
本发明公开了基于芯片多级存储的数据预取方法、装置、设备及介质。该方法包括:获取初始深度学习网络模型中的目标计算操作及对应目标预取数据;依据目标预取数据的数据空间和预取时长,及目标计算操作在初始深度学习网络模型中的目标位置,确定目标预取数据对应的目标预取插入点生成基础深度学习网络模型;依据目标预取数据对应的目标计算操作数量和/或目标计算操作的目标位置,确定目标预取数据对应的目标释放插入点生成目标深度学习网络模型;触发执行目标深度学习网络模型,依据目标深度学习网络模型中目标预取插入点及目标释放插入点,实现目标预取数据的数据预取与释放。通过本发明的技术方案,能够提高人工智能芯片的数据存取效率。
公开/授权文献
- CN116737605A 基于芯片多级存储的数据预取方法、装置、设备及介质 公开/授权日:2023-09-12
IPC分类: