用于对初级视皮层简单细胞和其他神经电路的输入突触进行无监督训练的方法和设备

    公开(公告)号:CN103548042B

    公开(公告)日:2016-08-10

    申请号:CN201280024956.4

    申请日:2012-05-25

    发明人: V·阿帕林

    IPC分类号: G06N3/063

    CPC分类号: G06N3/063

    摘要: 本公开的某些方面呈现了一种用于对初级视皮层(V1)简单细胞和其他神经电路的输入突触进行无监督训练的技术。所提出的无监督训练方法利用视网膜神经节细胞(RGC)层和V1层两者的简单神经元模型。该模型简单地加总每一细胞的加权输入,其中这些输入可具有正值或负值。所得的输入加权总和代表激活,这些激活也可以是正的或负的。在本公开的一方面,每一个V1细胞的各权重可取决于相对应的RGC输出的符号以及该V1细胞的激活的符号在增加该激活的绝对值的方向上来调节。这些RGC到V1权重可以是正的和负的以分别对ON RGC和OFF RGC进行建模。

    用于生物启发型网络的通信和突触训练方法及硬件

    公开(公告)号:CN102959565A

    公开(公告)日:2013-03-06

    申请号:CN201180030039.2

    申请日:2011-07-07

    发明人: V·阿帕林 Y·唐

    IPC分类号: G06N3/063

    摘要: 本发明的某些实施例支持用于在生物启发型网络中训练突触的技术。可以将仅一个基于忆阻器的器件用作在一对神经元之间的突触连接。可以以低电流消耗来实现突触权重的训练。所提出的突触训练电路可以由多个输入/输出连接共用,而每个神经元电路可以仅利用一个数字实现的脉冲宽度调制(PWM)产生器来产生突触训练脉冲。仅有慢时钟信号的三个阶段可以用于神经元到神经元的通信和突触训练。还可以为建立突触训练事件而产生一些特定控制信号。借助这些信号,突触训练电路在训练事件以外可以处于高阻抗状态,从而突触电阻(即,突触权重)在权重训练过程以外不会受到影响。

    用于导致稀疏连通性的局部竞争性学习规则的方法和装置

    公开(公告)号:CN103620624B

    公开(公告)日:2016-10-19

    申请号:CN201280030520.6

    申请日:2012-06-21

    发明人: V·阿帕林

    IPC分类号: G06N3/08

    摘要: 本公开的某些方面支持在计算网络中应用的局部竞争性学习规则,该局部竞争性学习规则导致该网络的各处理单元之间稀疏的连通性。本公开提供了对Oja学习规则的修改,从而修改了Oja规则中对经平方权重的总和的约束。与显式且需要处理单元的所有输入权重的知识才能个体地更新其中每一个输入权重的常用的乘性和减性归一化相反,此约束可以是内在的和局部的。所给出的规则提供了向比通过原始Oja规则学习到的权重向量更稀疏(即,具有更多零元素)的权重向量的收敛。此类稀疏连通性可导致处理单元对特定特征的更高选择性,并且可以需要较少的存储器来存储网络配置以及较少的能量来操作该网络配置。

    用于神经处理器中的可替代突触权重存储的方法和系统

    公开(公告)号:CN102971754B

    公开(公告)日:2016-06-22

    申请号:CN201180033657.2

    申请日:2011-07-07

    发明人: V·阿帕林

    IPC分类号: G06N3/063

    CPC分类号: G06N3/063

    摘要: 本发明的某些实施例支持用于将突触权重单独地从神经处理器芯片存储到可替代存储器的技术。该可替代突触存储器给予神经处理器唯一的功能,并且提高其灵活性以支持多种多样的应用。此外,该可替代突触存储器可以为使用的存储器类型提供更多的选择,并可以减少整个神经处理器芯片的面积和实施成本。