- 专利标题: 数据处理方法、装置、计算装置、图形处理器和存储介质
-
申请号: CN202311790497.7申请日: 2023-12-22
-
公开(公告)号: CN117762375B公开(公告)日: 2024-10-29
- 发明人: 请求不公布姓名
- 申请人: 摩尔线程智能科技(北京)有限责任公司
- 申请人地址: 北京市海淀区翠微中里14号楼四层B655
- 专利权人: 摩尔线程智能科技(北京)有限责任公司
- 当前专利权人: 摩尔线程智能科技(北京)有限责任公司
- 当前专利权人地址: 北京市海淀区翠微中里14号楼四层B655
- 代理机构: 北京林达刘知识产权代理事务所
- 代理商 李茂家; 周蕾
- 主分类号: G06F7/499
- IPC分类号: G06F7/499 ; G06F7/483
摘要:
本公开涉及数据处理方法、装置、计算装置、图形处理器和存储介质。该方法用于计算单元,计算单元包括运算单元和移位器,该方法包括:移位器获取运算单元输出的中间计算结果,中间计算结果为浮点数;移位器对中间计算结果的尾数进行移位处理,输出目标计算结果,目标计算结果中尾数的最低位为舍入操作对应的近似位,近似位用于运算单元对目标计算结果进行舍入操作。根据本申请实施例,可以使得运算单元处理压力降低,处理速度提高,提升了运算单元的计算效率,节省了硬件的计算资源和运算时间。
公开/授权文献
- CN117762375A 数据处理方法、装置、计算装置、图形处理器和存储介质 公开/授权日:2024-03-26