-
公开(公告)号:CN114168521A
公开(公告)日:2022-03-11
申请号:CN202110425428.0
申请日:2021-04-20
Applicant: 慧与发展有限责任合伙企业
IPC: G06F15/163 , G06N3/04 , G06N3/063 , G06N5/04 , G06N20/20
Abstract: 提供了用于提供大规模机器学习推理应用的多裸片点积引擎(DPE)的系统和方法。所述多裸片DPE利用多芯片架构。例如,多芯片接口可以包括多个DPE芯片,其中每个DPE芯片执行用于执行深度学习操作的推理计算。在推理操作期间,主机计算机的存储器与所述多个DPE芯片之间的硬件接口将所述多个DPE芯片可通信地连接至所述主机计算机系统的存储器,使得所述深度学习操作横跨所述多个DPE芯片。由于所述多裸片架构,允许使用多个硅器件进行推理,从而实现大规模机器学习应用和复杂深度神经网络的高能效推理。所述多裸片DPE可用于构建多设备DNN推理系统,该系统可高精度执行特定的应用,例如对象识别。