基于高斯过程回归的数据隐私保护方法及相关设备

    公开(公告)号:CN115758064A

    公开(公告)日:2023-03-07

    申请号:CN202211288739.8

    申请日:2022-10-20

    申请人: 鹏城实验室

    IPC分类号: G06F17/18 G06F17/16 G06F21/62

    摘要: 本发明公开了基于高斯过程回归的数据隐私保护方法及相关设备,包括:获取训练数据和测试数据;计算协方差矩阵,根据训练数据进行高斯过程回归的训练;生成指数随机数,通过秘密分享技术,根据指数随机数在高斯整数环上进行指数计算;根据乔利斯基分解法将高斯过程回归中的正定矩阵进行分解,通过秘密分享技术,在高斯整数环上对分解后的正定矩阵进行求逆,构建高斯过程回归模型;根据高斯过程回归模型对测试数据进行预测。可以在不泄露输入矩阵隐私的前提下,提高指数运算的效率,实现安全求逆。

    多语言翻译系统的持续学习方法、装置、终端及存储介质

    公开(公告)号:CN115270820A

    公开(公告)日:2022-11-01

    申请号:CN202210865989.7

    申请日:2022-07-22

    申请人: 鹏城实验室

    IPC分类号: G06F40/45 G06F40/58 G06N5/04

    摘要: 本发明公开了一种多语言翻译系统的持续学习方法、装置、终端及存储介质,方法包括:根据处理策略对翻译请求进行预处理;根据处理后的翻译请求分发对应的翻译模型,并通过翻译模型对处理后的翻译请求进行翻译推理;根据翻译结果进行置信度评估,并根据置信度评估结果触发请你翻译模式,将处理后的翻译请求调度至在线专家或其他用户侧;接收在线专家或其他用户侧反馈的翻译参考答案,激励翻译模型对反馈的翻译参考答案进行答案融合;接收其他用户侧反馈的翻译结果评分,并根据翻译结果评分及反馈的翻译参考答案对翻译模型进行持续学习,以扩充翻译模型的翻译分析数据和持续学习数据。本发明通过反馈打分和请你翻译的人机协作提高系统翻译性能。

    模型溯源方法、装置、设备及存储介质

    公开(公告)号:CN117390598A

    公开(公告)日:2024-01-12

    申请号:CN202311399658.X

    申请日:2023-10-25

    申请人: 鹏城实验室

    IPC分类号: G06F21/10 G06F18/24 G06N3/123

    摘要: 本发明公开了一种模型溯源方法、装置、设备及存储介质。该方法包括:获取源模型对应的训练数据;根据所述训练数据确定所述源模型对应的源模型DNA以及目标模型对应的目标模型DNA;基于所述源模型DNA和所述目标模型DNA确定组合DNA;将所述组合DNA输入至预设判别器模型,根据所述预设判别器模型输出的判别结果确定模型溯源结果。由于本发明是通过源模型对应的源模型DNA以及目标模型对应的目标模型DNA确定组合DNA,将组合DNA输入至预设判别器模型,得到模型溯源结果。本发明首次引入了机器学习模型DNA的概念。可以实现对模型的追溯,以追踪模型的来源。这有助于确保模型的可信度和安全性。

    一种跨域数据异构的大模型在线剪枝方法及相关设备

    公开(公告)号:CN115423088A

    公开(公告)日:2022-12-02

    申请号:CN202210986537.4

    申请日:2022-08-17

    申请人: 鹏城实验室

    IPC分类号: G06N3/08 G06K9/62

    摘要: 本发明公开了一种跨域数据异构的大模型在线剪枝方法及相关设备,方法包括:获取目标预训练模型和目标数据集;根据目标数据集对目标预训练模型进行预剪枝,得到预剪枝模型;将预剪枝模型的参数发送至云服务器进行处理,得到目标融合参数,将目标融合参数加载至预剪枝模型,得到目标融合模型,将目标预训练模型更新为目标融合模型;重新执行根据目标数据集对目标预训练模型进行预剪枝的步骤,直至完成预设数量的轮数后,将目标融合模型作为目标预剪枝模型;对目标预剪枝模型进行结构剪枝处理,得到目标剪枝模型;根据目标剪枝模型得到目标发布模型。本发明能够在跨域网络环境下,对模型进行在线剪枝,减少模型参数,降低大模型部署对硬件的要求。

    基于多面体模型建模的自动并行策略搜索方法及相关设备

    公开(公告)号:CN114925591A

    公开(公告)日:2022-08-19

    申请号:CN202111646797.9

    申请日:2021-12-29

    IPC分类号: G06F30/27 G06K9/62 G06F111/08

    摘要: 本发明公开了基于多面体模型建模的自动并行策略搜索方法及相关设备,所述方法包括:根据用户输入的模型对象得到深度学习算法的模型计算图;对模型计算图进行转换,得到转换后的模型计算图;将转换后的模型计算图进行均衡处理,得到均衡计算图;根据所述均衡计算图,创建多面体模型实例,并根据多面体模型实例输出并行策略;调用底层框架执行并行策略。本发明中通过将模型计算图进行转换及均衡处理,并在多面体模型的框架下创建多面体模型实例后,自动输出并行策略,实现了在多面体模型下将不同的算法逻辑进行建模,并自动输出并行策略过程,提升了并行策略搜索的效率,降低了深度学习算法的分布式训练开发和效率调优难度。