受存储器限制的神经网络训练

    公开(公告)号:CN113469354B

    公开(公告)日:2024-05-21

    申请号:CN202110342087.0

    申请日:2021-03-30

    Abstract: 本公开提供了用于训练神经网络的方法和系统。在一个示例中,装置包括存储指令的存储器;和硬件处理器,被配置为执行所述指令以:控制神经网络处理器执行损失梯度操作,以生成数据梯度;在所述损失梯度操作完成之后,控制所述神经网络处理器执行正向传播操作,以生成中间输出;基于所述数据梯度和所述中间输出控制所述神经网络处理器执行反向传播操作,以生成权重梯度;从所述神经网络处理器中接收所述权重梯度;以及基于所述权重梯度更新神经网络的权重。

    受存储器限制的神经网络训练
    5.
    发明公开

    公开(公告)号:CN118569344A

    公开(公告)日:2024-08-30

    申请号:CN202410652879.1

    申请日:2021-03-30

    Abstract: 本公开提供了用于训练神经网络的方法和系统。在一个示例中,装置包括存储指令的存储器;和硬件处理器,被配置为执行所述指令以:控制神经网络处理器执行损失梯度操作,以生成数据梯度;在所述损失梯度操作完成之后,控制所述神经网络处理器执行正向传播操作,以生成中间输出;基于所述数据梯度和所述中间输出控制所述神经网络处理器执行反向传播操作,以生成权重梯度;从所述神经网络处理器中接收所述权重梯度;以及基于所述权重梯度更新神经网络的权重。

    受存储器限制的神经网络训练

    公开(公告)号:CN113469354A

    公开(公告)日:2021-10-01

    申请号:CN202110342087.0

    申请日:2021-03-30

    Abstract: 本公开提供了用于训练神经网络的方法和系统。在一个示例中,装置包括存储指令的存储器;和硬件处理器,被配置为执行所述指令以:控制神经网络处理器执行损失梯度操作,以生成数据梯度;在所述损失梯度操作完成之后,控制所述神经网络处理器执行正向传播操作,以生成中间输出;基于所述数据梯度和所述中间输出控制所述神经网络处理器执行反向传播操作,以生成权重梯度;从所述神经网络处理器中接收所述权重梯度;以及基于所述权重梯度更新神经网络的权重。

Patent Agency Ranking