数据存储方法、装置、电子设备和介质

    公开(公告)号:CN117521744A

    公开(公告)日:2024-02-06

    申请号:CN202311482279.7

    申请日:2023-11-08

    发明人: 卢健

    摘要: 本公开提供了一种数据存储方法,涉及人工智能领域、金融科技领域或其他技术领域。该方法包括:获取预先训练的人工智能模型的第一模型参数,其中,所述第一模型参数以浮点数格式表示,所述人工智能模型用于对输入数据处理以输出预测结果;基于预定精度系数处理所述第一模型参数,并转换为以整数型格式表示的第二模型参数,其中,所述预定精度系数通过预设的所述人工智能模型的参数精度所确定;将所述第二模型参数转换为表结构数据存储到具有特定数据压缩格式的第一文件,其中,所述第二模型参数占用的存储空间小于所述第一模型参数占用的存储空间。本公开还提供了一种数据存储装置、电子设备和存储介质。

    一种浮点数的转换电路
    2.
    发明授权

    公开(公告)号:CN111313906B

    公开(公告)日:2023-11-07

    申请号:CN202010138185.8

    申请日:2020-03-03

    申请人: 南京大学

    IPC分类号: H03M7/24

    摘要: 本申请提供了一种浮点数的转换电路。该电路能够将posit数据格式的浮点数转换为IEEE754数据格式的浮点数。在很多神经网络的训练过程中,其运算数据近似服从正态分布,可通过变换使数据集中在0附近,本申请中posit数据格式的浮点数的预设总位宽是可以调控的,可以很大程度的减少数据位宽,进而减少存储所需要的资源以及读写过程所消耗的资源,提高神经网络训练的效率。

    基于分通道量化的特征提取方法、系统、设备及存储介质

    公开(公告)号:CN111614358B

    公开(公告)日:2023-08-04

    申请号:CN202010365096.7

    申请日:2020-04-30

    摘要: 本发明实施例涉及计算机视觉技术领域,公开了基于分通道量化的特征提取方法、系统、设备及存储介质。本发明实施例先获取待处理图像;将待处理图像输入至目标特征提取模型,得到目标特征提取模型输出的目标对象特征;其中,目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。明显地,本发明实施例通过对初始特征提取模型进行模型压缩操作,以使得压缩后的模型可适配低功耗设备,从而解决了低功耗设备与浮点模型之间难以适配的技术问题。同时,本发明实施例以分通道的形式来处理量化小数位,还可降低量化损失,从而可缓解网络性能下降的现况。

    一种定点转浮点的转换装置

    公开(公告)号:CN111290790A

    公开(公告)日:2020-06-16

    申请号:CN202010075182.4

    申请日:2020-01-22

    申请人: 安徽大学

    IPC分类号: G06F9/30 H03M7/24 G06F7/483

    摘要: 本发明公开了一种定点转浮点的转换装置,其中,译码单元与站台控制单元相连接,用于形成指令译码信息;站台控制单元与浮点转换单元相连接,包括信息接收部件、控制信息转发部件、读寄存器单元、旁路数据输出单元以及源操作数输出单元;执行控制单元用于接收所述站台控制单元发送的指令信息,然后依据相应的指令对流水执行的浮点转换单元进行控制处理;浮点转换单元用于接收所述站台控制单元发送的源操作数信息,并从所述浮点控制与状态寄存器中读取控制位,通过浮点运算后将运算结果写入所述目标寄存器,并将浮点运算产生的异常状态写入所述浮点控制与状态寄存器。上述装置能够降低整数转换的复杂度,提高转换效率,并减小硬件开支。

    基于FPGA的决策树模型中的浮点数离散化方法

    公开(公告)号:CN109086815A

    公开(公告)日:2018-12-25

    申请号:CN201810820317.8

    申请日:2018-07-24

    IPC分类号: G06K9/62 H03M7/24

    摘要: 本发明属于机器学习领域,针对现有基于FPGA的包含浮点阈值的决策树模型的硬件实现方法无法在降低硬件巨大存储和计算资源的同时保持模型的分类性能的问题,提供一种基于FPGA的决策树模型中的浮点数阈值离散化方法,包括以下步骤:第一步,离散化决策树模型中的浮点数阈值;第二步,离散化待分类样本的浮点数特征;第三步,基于层级流水的决策树加速模型对待分类样本分类识别。本发明通过离散化轴平行二叉决策树模型中的浮点数阈值,将模型中的浮点数转换为整数,在不改变模型的分类性能的前提下减少硬件实现需要的存储和计算资源,优化硬件实现方案。

    利用条件量化器的音频编码和解码

    公开(公告)号:CN104246875B

    公开(公告)日:2016-08-24

    申请号:CN201380021648.0

    申请日:2013-02-15

    IPC分类号: G10L19/032 H03M7/24 H04S3/00

    摘要: 一些方法可以涉及接收包括变换系数数据的编码音频数据的帧。变换系数数据可以包括指数数据和尾数数据。尾数数据可以包括通过均匀或不均匀的量化间隔的边界被编码的尾数值。可以至少部分基于指数概况数据来重构尾数值。基于指数概况数据,可以推断关于预量化尾数值的统计数据。指数概况数据可以包括指数差分数据。一些这样的指数差分数据可以是指数差对,但是在替代方法中可以估计多于两个的指数差分数据点。在每个频率段,尾数值重构可以取决于指数差分数据,例如,取决于指数差对。

    利用条件量化器的音频编码和解码

    公开(公告)号:CN104246875A

    公开(公告)日:2014-12-24

    申请号:CN201380021648.0

    申请日:2013-02-15

    IPC分类号: G10L19/032 H03M7/24 H04S3/00

    摘要: 一些方法可以涉及接收包括变换系数数据的编码音频数据的帧。变换系数数据可以包括指数数据和尾数数据。尾数数据可以包括通过均匀或不均匀的量化间隔的边界被编码的尾数值。可以至少部分基于指数概况数据来重构尾数值。基于指数概况数据,可以推断关于预量化尾数值的统计数据。指数概况数据可以包括指数差分数据。一些这样的指数差分数据可以是指数差对,但是在替代方法中可以估计多于两个的指数差分数据点。在每个频率段,尾数值重构可以取决于指数差分数据,例如,取决于指数差对。

    减少位深的量子化方法
    10.
    发明授权

    公开(公告)号:CN101087421B

    公开(公告)日:2011-11-16

    申请号:CN200710127007.X

    申请日:2002-08-08

    摘要: 提供系数量子化的方法。所述方法包括:提供系数K、提供量子化参数(QP)、使用尾数部分(Am(QP))和指数部分(xAe(QP))通过系数K构成量子化值(L)。通常,x的值为2。在所述方法的一些方面,通过系数K构成量子化值(L)包括L=K*A(QP)=K*Am(QP)*(2Ae(QP))。在其他方面,所述方法进一步包括:按如下使用2N标准化量子化值:Ln=L/2N=K*Am(QP)/2(N-Ae(QP))。在一些方面,构成量子化值包括构成一组递归的有周期P的量子化因子,其中A(QP+P)=A(QP)/x。构成递归的量子化因子包括构成递归的尾数因子,其中Am(QP)=Am(QP mod P),且构成递归的量子化因子包括构成递归的指数因子,其中Ae(QP)=Ae(QP modP)-QP/P。