公开(公告)号：CN109472350B

公开(公告)日：2021-11-16

申请号：CN201811284262.X

申请日：2018-10-30

Applicant: 南京大学

Inventor： 潘红兵 ,  秦子迪 ,  朱志炜 ,  郭良蛟 ,  查弈 ,  陈轩 ,  沈庆宏

IPC: G06N3/04 ,  G06N3/063

Abstract: 本发明涉及基于块循环稀疏矩阵的神经网络加速系统，包括：可扩展的处理单元阵列，存储有神经网络的部分权值，对压缩的网络进行解码和运算；主控制器主要负责对运算流程的控制；激励分发单元，在主控制器的控制下，向可扩展的处理单元阵列分发非零的运算数据。有益效果为：有效利用了块循环稀疏矩阵的特点，减轻了稀疏矩阵向量乘运算负载不均衡的问题，提高运算单元利用率；通过利用激励和权重的稀疏性，减少了片上存储的使用，跳过了冗余的运算，从而提高硬件加速器的吞吐率，满足处理深度神经网络的实时性要求。

公开(公告)号：CN109472350A

公开(公告)日：2019-03-15

申请号：CN201811284262.X

申请日：2018-10-30

Applicant: 南京大学

Inventor： 潘红兵 ,  秦子迪 ,  朱志炜 ,  郭良蛟 ,  查弈 ,  陈轩 ,  沈庆宏

IPC: G06N3/04 ,  G06N3/063

Abstract: 本发明涉及基于块循环稀疏矩阵的神经网络加速系统，包括：可扩展的处理单元阵列，存储有神经网络的部分权值，对压缩的网络进行解码和运算；主控制器主要负责对运算流程的控制；激励分发单元，在主控制器的控制下，向可扩展的处理单元阵列分发非零的运算数据。有益效果为：有效利用了块循环稀疏矩阵的特点，减轻了稀疏矩阵向量乘运算负载不均衡的问题，提高运算单元利用率；通过利用激励和权重的稀疏性，减少了片上存储的使用，跳过了冗余的运算，从而提高硬件加速器的吞吐率，满足处理深度神经网络的实时性要求。