本发明公开了一种卷积神经网络的运算方法、装置及DPU，方法包括：第一缓存区获取神经网络模型第n层的参数以及第一数据；第一运算单元根据神经网络第n层的参数对第一数据进行计算，将计算结果作为第二数据；第二缓存区在第一运算单元计算的同时，获取神经网络模型第n+1层的参数；在第一运算单元计算完成后，第二缓存区接收并存储第二数据；第二运算单元根据第二缓存区存储的神经网络模型第n+1层的参数对第二数据进行计算，将计算结果对第一数据进行更新，将更新后的第一数据存储在第一缓存区，重复上述步骤直到预设的神经网络模型的最大层数的计算完毕为止。本发明提供的卷积神经网络的运算方法、装置及DPU，提高了神经网络的运行效率。