-
公开(公告)号:CN117521744A
公开(公告)日:2024-02-06
申请号:CN202311482279.7
申请日:2023-11-08
申请人: 中国工商银行股份有限公司
发明人: 卢健
IPC分类号: G06N3/0495 , H03M7/24 , G06N3/0464 , G06N3/084 , G06N3/088
摘要: 本公开提供了一种数据存储方法,涉及人工智能领域、金融科技领域或其他技术领域。该方法包括:获取预先训练的人工智能模型的第一模型参数,其中,所述第一模型参数以浮点数格式表示,所述人工智能模型用于对输入数据处理以输出预测结果;基于预定精度系数处理所述第一模型参数,并转换为以整数型格式表示的第二模型参数,其中,所述预定精度系数通过预设的所述人工智能模型的参数精度所确定;将所述第二模型参数转换为表结构数据存储到具有特定数据压缩格式的第一文件,其中,所述第二模型参数占用的存储空间小于所述第一模型参数占用的存储空间。本公开还提供了一种数据存储装置、电子设备和存储介质。
-
-
公开(公告)号:CN111614358B
公开(公告)日:2023-08-04
申请号:CN202010365096.7
申请日:2020-04-30
申请人: 合肥的卢深视科技有限公司
IPC分类号: H03M7/24 , G06N3/0464 , G06V10/774 , G06V10/82
摘要: 本发明实施例涉及计算机视觉技术领域,公开了基于分通道量化的特征提取方法、系统、设备及存储介质。本发明实施例先获取待处理图像;将待处理图像输入至目标特征提取模型,得到目标特征提取模型输出的目标对象特征;其中,目标特征提取模型是对初始特征提取模型中的浮点模型参数通过分通道确定量化小数位的方式进行模型压缩以得到的压缩后的特征提取模型。明显地,本发明实施例通过对初始特征提取模型进行模型压缩操作,以使得压缩后的模型可适配低功耗设备,从而解决了低功耗设备与浮点模型之间难以适配的技术问题。同时,本发明实施例以分通道的形式来处理量化小数位,还可降低量化损失,从而可缓解网络性能下降的现况。
-
公开(公告)号:CN111290790A
公开(公告)日:2020-06-16
申请号:CN202010075182.4
申请日:2020-01-22
申请人: 安徽大学
摘要: 本发明公开了一种定点转浮点的转换装置,其中,译码单元与站台控制单元相连接,用于形成指令译码信息;站台控制单元与浮点转换单元相连接,包括信息接收部件、控制信息转发部件、读寄存器单元、旁路数据输出单元以及源操作数输出单元;执行控制单元用于接收所述站台控制单元发送的指令信息,然后依据相应的指令对流水执行的浮点转换单元进行控制处理;浮点转换单元用于接收所述站台控制单元发送的源操作数信息,并从所述浮点控制与状态寄存器中读取控制位,通过浮点运算后将运算结果写入所述目标寄存器,并将浮点运算产生的异常状态写入所述浮点控制与状态寄存器。上述装置能够降低整数转换的复杂度,提高转换效率,并减小硬件开支。
-
公开(公告)号:CN109391272A
公开(公告)日:2019-02-26
申请号:CN201810874996.7
申请日:2018-08-02
申请人: 西门子股份公司
发明人: 马克西米利安·沃尔特 , 卡尔-赫尔曼·威特
摘要: 本发明涉及一种用于防止不察觉地改变数据存储器中的数据的方法,其中,函数变量x借助值wertx、输入常量A、输入签名Bx和时间戳D根据公式:xc:=wertx×A+Bx+D被编码成为编码变量xc,其中,为了从函数变量x形成整数的值wertx,将函数变量相关于基准Basisx进行标准化。
-
公开(公告)号:CN109086815A
公开(公告)日:2018-12-25
申请号:CN201810820317.8
申请日:2018-07-24
申请人: 中国人民解放军国防科技大学
摘要: 本发明属于机器学习领域,针对现有基于FPGA的包含浮点阈值的决策树模型的硬件实现方法无法在降低硬件巨大存储和计算资源的同时保持模型的分类性能的问题,提供一种基于FPGA的决策树模型中的浮点数阈值离散化方法,包括以下步骤:第一步,离散化决策树模型中的浮点数阈值;第二步,离散化待分类样本的浮点数特征;第三步,基于层级流水的决策树加速模型对待分类样本分类识别。本发明通过离散化轴平行二叉决策树模型中的浮点数阈值,将模型中的浮点数转换为整数,在不改变模型的分类性能的前提下减少硬件实现需要的存储和计算资源,优化硬件实现方案。
-
公开(公告)号:CN104246875B
公开(公告)日:2016-08-24
申请号:CN201380021648.0
申请日:2013-02-15
申请人: 杜比实验室特许公司
IPC分类号: G10L19/032 , H03M7/24 , H04S3/00
CPC分类号: G10L19/035 , G10L19/032 , H03M7/24 , H04S3/008
摘要: 一些方法可以涉及接收包括变换系数数据的编码音频数据的帧。变换系数数据可以包括指数数据和尾数数据。尾数数据可以包括通过均匀或不均匀的量化间隔的边界被编码的尾数值。可以至少部分基于指数概况数据来重构尾数值。基于指数概况数据,可以推断关于预量化尾数值的统计数据。指数概况数据可以包括指数差分数据。一些这样的指数差分数据可以是指数差对,但是在替代方法中可以估计多于两个的指数差分数据点。在每个频率段,尾数值重构可以取决于指数差分数据,例如,取决于指数差对。
-
公开(公告)号:CN104246875A
公开(公告)日:2014-12-24
申请号:CN201380021648.0
申请日:2013-02-15
申请人: 杜比实验室特许公司
IPC分类号: G10L19/032 , H03M7/24 , H04S3/00
CPC分类号: G10L19/035 , G10L19/032 , H03M7/24 , H04S3/008
摘要: 一些方法可以涉及接收包括变换系数数据的编码音频数据的帧。变换系数数据可以包括指数数据和尾数数据。尾数数据可以包括通过均匀或不均匀的量化间隔的边界被编码的尾数值。可以至少部分基于指数概况数据来重构尾数值。基于指数概况数据,可以推断关于预量化尾数值的统计数据。指数概况数据可以包括指数差分数据。一些这样的指数差分数据可以是指数差对,但是在替代方法中可以估计多于两个的指数差分数据点。在每个频率段,尾数值重构可以取决于指数差分数据,例如,取决于指数差对。
-
公开(公告)号:CN1894665B
公开(公告)日:2013-05-08
申请号:CN200480037051.6
申请日:2004-12-15
申请人: 英特尔公司
摘要: 二进制转换模块是要将与源体系结构相关联的第一指令序列转换成与目标体系结构相关联的第二指令序列。该第一序列包括一个或多个浮点控制指令,而第二序列并不包括浮点控制指令。通过在符合目标体系结构的处理器上执行第二序列所产生的结果基本上与通过在符合源体系结构的处理器上执行第一序列所产生的结果相同。
-
公开(公告)号:CN101087421B
公开(公告)日:2011-11-16
申请号:CN200710127007.X
申请日:2002-08-08
申请人: 夏普株式会社
发明人: L·J·科洛夫斯基
CPC分类号: H03M7/24 , H04N19/126 , H04N19/136 , H04N19/176 , H04N19/18 , H04N19/184 , H04N19/42
摘要: 提供系数量子化的方法。所述方法包括:提供系数K、提供量子化参数(QP)、使用尾数部分(Am(QP))和指数部分(xAe(QP))通过系数K构成量子化值(L)。通常,x的值为2。在所述方法的一些方面,通过系数K构成量子化值(L)包括L=K*A(QP)=K*Am(QP)*(2Ae(QP))。在其他方面,所述方法进一步包括:按如下使用2N标准化量子化值:Ln=L/2N=K*Am(QP)/2(N-Ae(QP))。在一些方面,构成量子化值包括构成一组递归的有周期P的量子化因子,其中A(QP+P)=A(QP)/x。构成递归的量子化因子包括构成递归的尾数因子,其中Am(QP)=Am(QP mod P),且构成递归的量子化因子包括构成递归的指数因子,其中Ae(QP)=Ae(QP modP)-QP/P。
-
-
-
-
-
-
-
-
-