-
公开(公告)号:CN114418074A
公开(公告)日:2022-04-29
申请号:CN202111589202.0
申请日:2021-12-23
Applicant: 中国科学院计算技术研究所
Abstract: 本发明提出了一种基于权值驻留的LSTM循环网络加速方法和系统,包括:获取具有权重缓存的AI专用芯片和待处理的时间序列,将待运行的LSTM循环网络模型加载至该AI专用芯片,并将LSTM循环网络模型运行中的所有时间无关项加载至该权重缓存;按顺序将该时间序列中当前时刻t的特征向量Xt,以及前一时刻的隐层输出Ht‑1输入至该AI专用芯片,通过读取位于权重缓存的时间无关项,运行该LSTM循环网络模型,得到当前时刻t的隐层输出Ht;直到达到预设循环次数,输出当前时刻的隐层输出作为LSTM循环网络的执行结果。本发明通过在将AI专用芯片中加入专用缓存,用于缓存LSTM中时间无关项,提高了LSTM运算效率。