数据处理方法、装置、计算装置、图形处理器和存储介质
摘要:
本公开涉及数据处理方法、装置、计算装置、图形处理器和存储介质。该方法用于计算单元,计算单元包括运算单元和移位器,该方法包括:移位器获取运算单元输出的中间计算结果,中间计算结果为浮点数;移位器对中间计算结果的尾数进行移位处理,输出目标计算结果,目标计算结果中尾数的最低位为舍入操作对应的近似位,近似位用于运算单元对目标计算结果进行舍入操作。根据本申请实施例,可以使得运算单元处理压力降低,处理速度提高,提升了运算单元的计算效率,节省了硬件的计算资源和运算时间。
0/0