-
公开(公告)号:CN113469354B
公开(公告)日:2024-05-21
申请号:CN202110342087.0
申请日:2021-03-30
Applicant: 亚马逊技术股份有限公司
IPC: G06N3/084 , G06N3/0464
Abstract: 本公开提供了用于训练神经网络的方法和系统。在一个示例中,装置包括存储指令的存储器;和硬件处理器,被配置为执行所述指令以:控制神经网络处理器执行损失梯度操作,以生成数据梯度;在所述损失梯度操作完成之后,控制所述神经网络处理器执行正向传播操作,以生成中间输出;基于所述数据梯度和所述中间输出控制所述神经网络处理器执行反向传播操作,以生成权重梯度;从所述神经网络处理器中接收所述权重梯度;以及基于所述权重梯度更新神经网络的权重。
-
公开(公告)号:CN114667512A
公开(公告)日:2022-06-24
申请号:CN202080070367.4
申请日:2020-09-16
Applicant: 亚马逊技术股份有限公司
IPC: G06F16/242 , G06F16/2453 , G06F16/2458 , G06F9/44 , G06N20/00 , G06N5/04
Abstract: 本发明描述进行机器学习推理调用以用于数据库查询处理的技术。在一些实施方案中,一种进行机器学习推理调用以用于数据库查询处理的方法可以包括:至少基于将对存储在数据库服务中的数据执行的查询来生成第一批机器学习请求,其中所述查询标识机器学习服务;将所述第一批机器学习请求发送到异步请求处理程序的输入缓冲器,所述异步请求处理程序基于所述第一批机器学习请求来生成第二批机器学习请求;以及从所述异步请求处理程序的输出缓冲器获得多个机器学习响应,所述机器学习响应是由所述机器学习服务响应于接收到所述第二批机器学习请求而使用机器学习模型生成。
-
公开(公告)号:CN112292668A
公开(公告)日:2021-01-29
申请号:CN201980041959.0
申请日:2019-06-24
Applicant: 亚马逊技术股份有限公司
Inventor: S·森古普塔 , P·C·S·佩鲁马拉 , D·R·迪瓦卡鲁尼 , N·布沙拉 , L·P·狄拉克 , B·萨哈 , M·J·伍德 , A·奥加提 , S·西瓦苏布拉马尼亚
IPC: G06F9/50
Abstract: 本文详细描述的实现方式包括一种计算机实现方法的描述。在实现方式中,所述方法至少包括:接收应用实例配置,所述应用实例的应用在机器学习模型的执行期间利用附接加速器的一部分,并且所述应用实例配置包括:要使用的中央处理单元(CPU)能力的指示;要使用的所述机器学习模型的算术精度;要使用的所述加速器能力的指示;所述应用的存储位置;以及要使用的随机存取存储器的量的指示。
-
公开(公告)号:CN112292668B
公开(公告)日:2024-04-26
申请号:CN201980041959.0
申请日:2019-06-24
Applicant: 亚马逊技术股份有限公司
Inventor: S·森古普塔 , P·C·S·佩鲁马拉 , D·R·迪瓦卡鲁尼 , N·布沙拉 , L·P·狄拉克 , B·萨哈 , M·J·伍德 , A·奥加提 , S·西瓦苏布拉马尼亚
IPC: G06F9/50
Abstract: 本文详细描述的实现方式包括一种计算机实现方法的描述。在实现方式中,所述方法至少包括:接收应用实例配置,所述应用实例的应用在机器学习模型的执行期间利用附接加速器的一部分,并且所述应用实例配置包括:要使用的中央处理单元(CPU)能力的指示;要使用的所述机器学习模型的算术精度;要使用的所述加速器能力的指示;所述应用的存储位置;以及要使用的随机存取存储器的量的指示。
-
公开(公告)号:CN118569344A
公开(公告)日:2024-08-30
申请号:CN202410652879.1
申请日:2021-03-30
Applicant: 亚马逊技术股份有限公司
IPC: G06N3/084 , G06N3/0464
Abstract: 本公开提供了用于训练神经网络的方法和系统。在一个示例中,装置包括存储指令的存储器;和硬件处理器,被配置为执行所述指令以:控制神经网络处理器执行损失梯度操作,以生成数据梯度;在所述损失梯度操作完成之后,控制所述神经网络处理器执行正向传播操作,以生成中间输出;基于所述数据梯度和所述中间输出控制所述神经网络处理器执行反向传播操作,以生成权重梯度;从所述神经网络处理器中接收所述权重梯度;以及基于所述权重梯度更新神经网络的权重。
-
公开(公告)号:CN115004175A
公开(公告)日:2022-09-02
申请号:CN202080094631.8
申请日:2020-11-24
Applicant: 亚马逊技术股份有限公司
Inventor: J-P·多戴尔 , Z·黄 , X·马 , R·M·纳拉帕蒂 , K·拉贾戈帕兰 , M·萨伊尼 , S·森古普塔 , S·K·辛格 , D·索利奥斯 , A·苏塔尼亚 , D·王 , Z·王 , B·项 , P·许 , Y·袁 , J·L·凯兹曼 , N·库纳拉 , A·M·格兰特 , C·诺盖拉多斯桑托斯 , P·吴
IPC: G06F16/338 , G06F16/9032
Abstract: 描述了用于搜索文档的技术。一种示例性方法包括:接收文档搜索查询;基于所述文档搜索查询来查询至少一个索引以识别匹配数据;获取识别的匹配数据;至少基于获取的识别匹配数据和所述文档搜索查询,基于对一个或多个机器学习模型的一次或多次调用来从文档集中确定排名靠前的段落和排名靠前的文档中的一项或多项;以及返回所述排名靠前的段落和文档适当子集中的一项或多项。
-
公开(公告)号:CN113469354A
公开(公告)日:2021-10-01
申请号:CN202110342087.0
申请日:2021-03-30
Applicant: 亚马逊技术股份有限公司
Abstract: 本公开提供了用于训练神经网络的方法和系统。在一个示例中,装置包括存储指令的存储器;和硬件处理器,被配置为执行所述指令以:控制神经网络处理器执行损失梯度操作,以生成数据梯度;在所述损失梯度操作完成之后,控制所述神经网络处理器执行正向传播操作,以生成中间输出;基于所述数据梯度和所述中间输出控制所述神经网络处理器执行反向传播操作,以生成权重梯度;从所述神经网络处理器中接收所述权重梯度;以及基于所述权重梯度更新神经网络的权重。
-
-
-
-
-
-