本发明公开了面向神经网络计算的多位宽重构近似张量乘加方法与系统，支持位宽为8×8、8×4和4×4的乘法运算。近似张量乘加单元包括子张量乘法单元和累加电路。子张量乘法单元包括符号拓展模块、部分积生成模块和可重构加法树模块。符号拓展模块用于将4bits数据拓展为5bits数据，并在近似计算模式下计算8bits数据的截断数据和补偿移位值；可重构加法树模块用于完成部分积生成模块结果的累加。累加电路用于计算对应子张量乘法单元结果之和作为最终结果。本发明改变乘法器和加法器的位宽和结构，实现不同程度的近似，显著减低张量乘加计算的硬件开销，保持较高的精度和灵活性。