本发明公开了一种面向嵌入式设备的通用神经网络矢量处理装置，属于神经网络矢量处理领域，包括RISC‑V处理器，用于存储矢量指令并根据原始数据和RISC‑V扩展指令，利用设置的神经网络算法生成神经网络权重并提取神经网络数据，以及根据神经网络权重、点积运算结果、整数处理数据和浮点数处理数据完成设置的神经网络算法；向量指令缓存，用于缓存矢量指令；数据缓存，用于缓存神经网络数据、点积运算结果、整数处理数据和浮点数处理数据；矢量处理单元，用于根据矢量指令处理神经网络数据得到点积运算结果、整数处理数据和浮点数处理数据。本发明解决了如今神经网络模型都很大但传统面向嵌入式设备的神经网络加速器通用性不强的问题。