本发明公开了一种基于神经网络加速器的异步处理方法与装置，方法包括：通过主线程根据算法业务需求产生异步请求，产生一个对应的句柄号，根据产生的业务请求，生成一组命令字，加入命令字队列，查询命令字队列，当前只有一组命令字则设置该组命令字为执行状态，启动神经网络加速器硬核，否则设置该组命令字为初始态并返回。硬核执行结束产生硬件中断并启动软中断，查询命令字队列，有命令字则从队列中取出，判断是否为初始态，是则设置为执行态并启动硬核，否则队列中删除该组命令字。主线程根据句柄号查询该次操作的硬核是否完成。上述操作实现了多个网络算法异步操作的过程，通过硬核中断处理异步操作，加速了网络性能，减少了处理器占用带宽。