神经向量检索加速器、及应用其的神经向量检索方法

    公开(公告)号:CN118502711A

    公开(公告)日:2024-08-16

    申请号:CN202410632261.9

    申请日:2024-05-21

    摘要: 本发明提出一种神经向量检索加速器、及应用其的神经向量检索方法,该加速器包含:外设接口单元,用以接收外部控制信号,从内存中读取输入数据送入缓冲区中;乘积引擎,与外设接口单元耦接,用以读取输入向量及中心点向量,计算输入向量和中心点向量之间的点积或距离,取得第一计算结果;位置生成单元,与外设接口单元耦接,用以依据外部控制信号计算索引位置和结果位置;索引引擎,与乘积引擎、位置生成单元耦接,用以依据索引位置和结果位置,从外设接口单元中获取查找地址,依据查询地址从第一计算结果中索引数据并求和,得到第二计算结果。该加速器降低了神经向量检索的计算和存储访问开销,节省硬件资源。

    基于芯粒互联接口的集成电路自动化设计方法及装置

    公开(公告)号:CN118133760A

    公开(公告)日:2024-06-04

    申请号:CN202410232643.2

    申请日:2024-02-29

    IPC分类号: G06F30/392

    摘要: 本发明提出一种芯粒互联接口自动化设计方法和装置,包括:获取芯粒系统的设计目标;根据该设计目标,调整芯粒互联接口的网表模板,生成符合该设计目标的设计网表;根据该设计网表中各功能模块的属性,区分该设计网表中数字电路部分与模拟电路部分;通过数字集成电路布局布线工具,生成该数字电路部分的数字电路版图;使用模拟集成电路布局布线自动工具,生成该模拟电路部分的模拟电路版图;通过设定芯粒互联接口,合并该数字电路版图与该模拟电路版图,得到该设计目标下的最终电路版图。本发明能够自动合并这些版图,生成一个完整、高效、准确的芯粒互联接口。

    芯片接口及其测试方法
    3.
    发明公开

    公开(公告)号:CN117827560A

    公开(公告)日:2024-04-05

    申请号:CN202311700750.5

    申请日:2023-12-12

    IPC分类号: G06F11/22

    摘要: 提供一种芯片接口及其测试方法,该芯片接口包括:输入端口,用于接收来自外部测试路径的伪随机二进制PRBS测试序列;测试序列对比模块,用于将所述输入端口接收的所述PRBS测试序列与所述测试序列对比模块中的标准序列进行对比,并输出比较结果;测试序列生成模块,用于生成PRBS测试序列;输出端口,用于将所述测试序列生成模块生成的PRBS测试序列输出至外部测试路径。

    一种多视觉任务加速器和多视觉任务处理的控制方法

    公开(公告)号:CN116089080A

    公开(公告)日:2023-05-09

    申请号:CN202310013486.1

    申请日:2023-01-05

    IPC分类号: G06F9/50 G06T1/20 G06N3/0464

    摘要: 本发明提供了一种多视觉任务加速器和多视觉任务处理的控制方法,所述视觉任务是指利用卷积神经网络对输入的图像进行处理的任务,每个图像卷积神经网络包括至少一个卷积层,该加速器包括:用于执行卷积层的卷积运算的计算阵列;用于响应于一个或者多个视觉任务的加速计算请求,控制计算阵列执行一个视觉任务对应的卷积运算或者在计算阵列执行单个视觉任务对应的卷积运算存在空闲计算资源时将计算阵列分为至少两个区域以同时执行多个视觉任务中的至少两个视觉任务对应的卷积运算的控制器。

    一种双调度模式的神经网络加速器

    公开(公告)号:CN115423083A

    公开(公告)日:2022-12-02

    申请号:CN202211126536.9

    申请日:2022-09-16

    IPC分类号: G06N3/063 G06N3/04

    摘要: 一种双调度模式的神经网络加速器,所述加速器包括矩阵运算阵列、池化单元、激活单元,所述加速器还包括阵列切换模块、双调度缓存模块、辅助运算模块,其中:所述阵列切换模块用于控制矩阵运算阵列中子运算单元的之间的连接方式以实现矩阵运算阵列的阵列模式切换、控制双调度缓存模块缓存数据和传输数据的方式、以及控制辅助运算模块执行辅助运算;所述双调度缓存模块用于按照加速器对应的调度模式缓存从外部存储介质获取待处理的神经网络数据以及按照对应的调度模式将数据传输给矩阵运算阵列;所述辅助运算模块用于基于阵列切换控制模块的控制对矩阵运算阵列在串行阵列模式下执行运算后的结果进行加法计算。

    计算装置、处理器、电子设备和计算方法

    公开(公告)号:CN112132273B

    公开(公告)日:2022-11-29

    申请号:CN202010999529.4

    申请日:2020-09-22

    IPC分类号: G06N3/063

    摘要: 本发明提供了一种计算装置、处理器、电子设备和计算方法,其中,计算装置包括:逻辑运算单元、匹配单元和存储单元;所述匹配单元将接收的三值形式的计算元素匹配为二值形式的计算元素输出给所述逻辑运算单元;所述逻辑运算单元包括与或非门运算单元,所述与或非门运算单元对接收的二值形式的计算元素执行与或非逻辑运算,获得二值形式的计算结果,其中,所述计算元素包括特征值和对应的权重值;所述存储单元将完成运算的所述二值形式的计算结果转换为三值形式的计算结果并存储。本发明可以实现同时处理二值神经网络和三值神经网路。

    一种多计算精度神经网络处理方法和系统

    公开(公告)号:CN107423816B

    公开(公告)日:2021-10-12

    申请号:CN201710182542.9

    申请日:2017-03-24

    IPC分类号: G06N3/063

    摘要: 本发明涉及一种多计算精度神经网络处理方法与系统,该方法包括:步骤S1,从指令存储单元读取需要执行的指令,对该指令进行解析得到存储地址,并从该存储地址获取输入数据和权重;步骤S2,将该输入数据的位宽及该权重的位宽分别解码拓展为处理器设计最大数据位宽,生成原始数据和原始权重;步骤S3,分析该原始数据的位宽,关断计算单元阵列中的部分计算单元,并执行神经网络运算中的运算操作,生成计算数据;步骤S4,将该计算数据的位宽编码为神经网络下一层所需数据位宽,生成打包数据,并将该打包数据输出。本发明可使神经网络不同层采用不同的数据精度参与计算,在保证计算精度的前提下,减少了片上存储量,降低了数据传输能量损耗。

    神经网络中的权重存储方法以及基于该方法的处理器

    公开(公告)号:CN108510058B

    公开(公告)日:2021-07-20

    申请号:CN201810166950.X

    申请日:2018-02-28

    IPC分类号: G06N3/04 G06N3/063

    摘要: 本发明提供一种神经网络中的权重存储方法以及基于该方法的神经网络存储器。该权重存储方法包括:将原二维权重卷积核构建为三维空间矩阵;查找所述三维空间矩阵中的有效权重并建立有效权重索引,其中,所述有效权重是非零权重,所述有效权重索引用于标记所述有效权重在所述三维空间矩阵的位置;存储所述有效权重以及所述有效权重索引。根据本发明的权重数据存储方法和卷积计算方法能够节省存储空间并提高计算效率。

    一种对卷积神经网络处理器的控制方法及装置

    公开(公告)号:CN108985449B

    公开(公告)日:2021-03-09

    申请号:CN201810685546.3

    申请日:2018-06-28

    IPC分类号: G06N3/063

    摘要: 本发明提供一种控制方法,包括:1)确定需要执行的卷积运算的尺寸n*n;2)根据需要执行的卷积运算的尺寸n*n,选择在m2个5*5的卷积计算单元中载入与所述尺寸对应的卷积核的数值,并将其余的各个数值填充为0,5m≥n;3)根据需要执行的卷积运算的尺寸、需要执行卷积的输入特征图的尺寸,确定卷积计算过程所需的周期数;4)在卷积计算过程中的各个周期,将相应的输入特征图的数值载入到所述m2个5*5的卷积计算单元中,所述输入特征图的数值在所述m2个5*5的卷积计算单元中的分布与所述卷积核的数值在所述m2个5*5的卷积计算单元中的分布保持一致;控制载入了卷积核以及输入特征图的数值的所述m2个5*5的卷积计算单元分别执行与所述周期数对应的卷积计算。