模型训练方法、语言预测方法、装置以及计算机存储介质

    公开(公告)号:CN118297134A

    公开(公告)日:2024-07-05

    申请号:CN202410258040.X

    申请日:2024-03-06

    摘要: 本申请提出一种模型训练方法、语言预测方法、语言预测装置以及计算机存储介质。所述模型训练方法应用于一种用于针对语言模型联邦学习的服务器;所述模型训练方法包括:将中心模型参数分发给待训练的客户端,以使所述客户端基于所述中心模型参数进行训练;获取所述客户端返回的模型更新参数;将所有模型更新参数添加高斯噪声,并计算添加所述高斯噪声后的所有模型更新参数的平均值;将所述平均值添加到所述中心模型参数,获取更新中心模型参数。通过上述模型训练方法,隐藏单个客户端在训练过程中的贡献,权衡隐私损失和模型表现,实现客户端级的差分隐私保护。

    图像的处理方法和装置、存储介质及电子装置

    公开(公告)号:CN115937606A

    公开(公告)日:2023-04-07

    申请号:CN202211718799.9

    申请日:2022-12-29

    摘要: 本发明实施例提供了一种图像的处理方法和装置、存储介质及电子装置,该方法包括:获取目标图像;将目标图像输入到目标YOLOv5模型中,输出对目标图像的检测结果,其中,目标YOLOv5模型中至少包括目标focus结构,目标focus结构包括由一个Slice层组成的第一切片层、由两个Concat层组成的第一拼接层、由两个Slice层组成的第二切片层、由四个Concat层组成的第二拼接层和由一个Concat层组成的第三拼接层;将检测结果返回至客户端,通过本发明,解决了相关技术中的YOLOv5模型中的focus结构复杂,计算量大,导致YOLOv5模型对图像中目标对象的检测效率比较低的问题。

    模型量化方法、电子设备和计算机可读存储介质

    公开(公告)号:CN118820568A

    公开(公告)日:2024-10-22

    申请号:CN202411307347.0

    申请日:2024-09-19

    发明人: 王康 刘德龙

    IPC分类号: G06F16/951

    摘要: 本申请公开了一种模型量化方法、电子设备和计算机可读存储介质,该方法包括:获取候选基准数据及其对应的数据分布,基于数据分布选择至少部分候选基准数据作为参考基准数据;将待量化的模型分解为多个子网络并获取子网络的网络信息,利用网络信息在知识库中进行量化参数索引,确定索引到量化参数的子网络;其中,知识库中存储有量化完成的子网络的网络信息和量化参数;响应于至少部分子网络未索引到量化参数,利用参考基准数据对未索引到量化参数的子网络进行量化;获取量化后的模型,利用参考基准数据对量化后的模型进行验证,且在满足验证条件后得到量化完成的模型,并更新知识库。上述方案,能够兼顾模型量化效率和量化后模型的效果。

    模型权重文件的存储方法、装置、存储介质及电子装置

    公开(公告)号:CN118689855A

    公开(公告)日:2024-09-24

    申请号:CN202411199503.6

    申请日:2024-08-29

    IPC分类号: G06F16/172 G06F16/16

    摘要: 本发明实施例提供了一种模型权重文件的存储方法、装置、存储介质及电子装置,其中,该方法包括:基于目标模型中包括的每一目标层的权重文件对应的张量数据生成张量数据对,得到多个第一张量数据对;针对多个第一张量数据对中包括的目标张量数据对执行以下操作,以对目标张量数据对进行存储:计算目标张量数据对中包括的目标张量数据的第一值;在运行目标模型的设备的目标磁盘中存在包括第一值的第一路径的情况下,将第一路径与目标张量数据对中包括的目标张量名称组成第一路径对,存储第一路径对。通过本发明,解决了相关技术中存在的模型权重文件存储大量占用存储空间的问题,达到降低模型权重文件的存储空间的效果。

    图像识别方法、图像识别装置以及计算机存储介质

    公开(公告)号:CN118038074A

    公开(公告)日:2024-05-14

    申请号:CN202311643283.7

    申请日:2023-12-01

    IPC分类号: G06V10/44 G06V10/82

    摘要: 本申请提出一种图像识别方法、图像识别装置以及计算机存储介质。所述图像识别方法包括:提取待识别图像的输入特征;获取输入特征的输入维度、输出特征的输出维度,以及卷积核的尺寸;将输入特征构造为输入矩阵,其中,输入矩阵的行由输入维度和输出维度确定,输入矩阵的列由输入维度和卷积核的尺寸确定;基于卷积核的尺寸以及输入维度、输出维度,获取卷积核的权重;将卷积核的权重构造为权重矩阵;利用输入矩阵和权重矩阵的矩阵运算结果,获取输出特征;基于所述输出特征识别待识别图像中的目标信息。通过上述图像识别方法,在减少卷积计算量,减少中间内存的情况下,同时可以减少矩阵运算的调用次数,从而实现性能的提升。

    一种性能指标调试方法、终端设备以及计算机存储介质

    公开(公告)号:CN116976443B

    公开(公告)日:2023-12-29

    申请号:CN202311227554.0

    申请日:2023-09-22

    IPC分类号: G06N5/04 G06F11/36

    摘要: 本申请提出一种性能指标调试方法、终端设备以及计算机存储介质。该性能指标调试方法应用于第二设备,性能指标调试方法包括:获取第一设备的模型调试文件和推理模型文件,其中,模型调试文件包括第一设备推理原始模型的测试数据和基准输出;从推理模型文件获取目标推理模型,其中,目标推理模型由第一设备基于原始模型编译得到;将测试数据输入目标推理模型,获取目标输出;比较基准输出和目标输出,得到目标推理模型对于原始模型的性能指标,利用性能指标对目标推理模型进行调试。通过上述性能指标调试方法,第二设备完成模型推理和模型调试,无需依赖第一设备,以解决模型部署过程中模型调试步骤繁琐复杂的问题,提高模型调试的效率。

    一种性能指标调试方法、终端设备以及计算机存储介质

    公开(公告)号:CN116976443A

    公开(公告)日:2023-10-31

    申请号:CN202311227554.0

    申请日:2023-09-22

    IPC分类号: G06N5/04 G06F11/36

    摘要: 本申请提出一种性能指标调试方法、终端设备以及计算机存储介质。该性能指标调试方法应用于第二设备,性能指标调试方法包括:获取第一设备的模型调试文件和推理模型文件,其中,模型调试文件包括第一设备推理原始模型的测试数据和基准输出;从推理模型文件获取目标推理模型,其中,目标推理模型由第一设备基于原始模型编译得到;将测试数据输入目标推理模型,获取目标输出;比较基准输出和目标输出,得到目标推理模型对于原始模型的性能指标,利用性能指标对目标推理模型进行调试。通过上述性能指标调试方法,第二设备完成模型推理和模型调试,无需依赖第一设备,以解决模型部署过程中模型调试步骤繁琐复杂的问题,提高模型调试的效率。

    压缩感知磁共振成像方法、模型训练方法及其成像装置

    公开(公告)号:CN116919380A

    公开(公告)日:2023-10-24

    申请号:CN202311190713.4

    申请日:2023-09-15

    IPC分类号: A61B5/055 G06V10/774 A61B5/00

    摘要: 本申请提出一种基于压缩感知磁共振成像的模型训练方法、压缩感知磁共振成像方法、压缩感知磁共振成像装置以及计算机存储介质。所述模型训练包括:按照迭代次数建立包括对应数量迭代阶段的数据流图,其中,数据流图中的图像节点对应成像模型的每个迭代阶段的各个网络层;将磁共振成像的欠采样数据输入数据流图,获取每一迭代阶段的重建层输出的重建图像;利用重建图像和完全采样图像对数据流图中各个网络层的网络参数进行训练。通过上述模型训练方法,通过设计压缩感知磁共振成像算法迭代步骤对应的数据流图来有效地构建和训练磁共振成像的成像模型,网络参数通过训练得到,利用该成像模型以更快的计算速度得到高精度的重建磁共振图像。

    图像处理方法和存储装置
    9.
    发明公开

    公开(公告)号:CN116228513A

    公开(公告)日:2023-06-06

    申请号:CN202211715720.7

    申请日:2022-12-29

    摘要: 本申请提供了一种图像处理方法和存储装置,所述图像处理方法包括:摄像头获得处理器输出的第一融合图像处理模型;利用第一融合图像处理模型对视频帧进行推理以获得相应的推理结果;其中,处理器输出第一融合图像处理模型的过程包括:将初始图像处理模型中至少两个相邻的算子进行融合,以获得融合后的第一融合图像处理模型;获得第一推理结果与第二推理结果之间的第一相似度;响应于第一相似度大于或等于阈值,将第一融合图像处理模型输出。通过上述方式,本申请能够降低摄像头所应用的图像处理模型的大小,在提高摄像头推理速度的同时保证推理结果的精确度。

    模型部署方法、装置、存储介质及电子装置

    公开(公告)号:CN116108901A

    公开(公告)日:2023-05-12

    申请号:CN202211733592.9

    申请日:2022-12-30

    IPC分类号: G06N3/063 G06N5/04

    摘要: 本申请实施例提供了一种模型部署方法、装置、存储介质及电子装置,该方法包括:获取原始训练模型,其中,原始训练模型是待部署的神经网络模型,将原始训练模型转换为第一模型文件和第二模型文件,其中,第一模型文件在进行推理的过程中,需要调用预设算子库完成算子运算,第二模型文件在进行推理的过程中,无需调用预设算子库完成算子运算,将第一模型文件和第二模型文件打包为目标模型文件,其中,目标模型文件与第一模型文件的格式相同,根据目标模型文件部署目标模型,并进行推理,输出目标推理结果。通过本申请,能够解决相关技术中存在的模型部署效率较低的问题。