-
公开(公告)号:CN117313838A
公开(公告)日:2023-12-29
申请号:CN202311489792.9
申请日:2023-11-09
Applicant: 支付宝(杭州)信息技术有限公司 , 华中科技大学
Abstract: 本说明书提供的联邦学习方法,目标端设备确定目标子图和包含目标外部节点的目标扩展图,通过聚合来自目标外部节点的非原始特征得到目标边缘节点的聚合外部嵌入特征,从而基于所述聚合外部嵌入特征对全局模型进行训练,得到本地模型。这样,在保护其他端设备的数据隐私的前提下引入了其他端设备中与自身相关的信息,使得目标边缘节点的信息更全面,利用目标边缘节点训练得到的本地模型的精度更高。
-
公开(公告)号:CN117111981A
公开(公告)日:2023-11-24
申请号:CN202311031879.1
申请日:2023-08-15
Applicant: 支付宝(杭州)信息技术有限公司 , 华中科技大学
Abstract: 本说明书提供的云边协同的模型更新方法和系统,云服务器接收多个客户端的多个初始客户端模型参数以及多个本地样本特征,基于多个本地样本特征之间的相似度对这多个客户端进行分组,进而将相似的客户端聚合起来,并将聚合结果下发到该组中的每个客户端,在云边协同的框架下考虑了边与边之间的协同学习,使得相似客户端之间的相似信息可以互相共享和借鉴,不同的客户端可以学习到与其相似的客户端的个性化信息,从而提升每个客户端模型的精度。
-
公开(公告)号:CN117350405A
公开(公告)日:2024-01-05
申请号:CN202311483682.1
申请日:2023-11-08
Applicant: 支付宝(杭州)信息技术有限公司 , 华中科技大学
Abstract: 本公开提供一种联邦学习方法、服务端设备、客户端设备及系统,服务端设备根据获得的至少部分客户端设备的第i轮客户端梯度数据确定第i轮全局网络模型,并根据第i轮全局网络模型、以及服务端设备存储的任意客户端设备的第i轮局部网络模型,确定针对任意客户端设备的第i+1轮服务端梯度数据,以向任意客户端设备发送该第i+1轮服务端梯度数据,一方面,根据部分客户端设备的客户端梯度数据实现迭代更新,可以实现异步联邦学习,从而减少服务端设备的等待时间,提高联邦学习的效率;另一方面,服务端设备向客户端设备发送服务端梯度数据,可以减少服务端设备与客户端设备之间交互的信息的数据量,从而减少通信资源的消耗。
-
公开(公告)号:CN119294486A
公开(公告)日:2025-01-10
申请号:CN202411297642.2
申请日:2024-09-14
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N5/022 , G06N5/04 , G06F16/3329 , G06F16/36
Abstract: 本说明书提供了一种基于医疗知识图谱的LLM模型微调方法及相关设备。该方法包括:获取与目标应用场景相关的知识图谱的结构信息;结构信息包含知识图谱中预定义的多个实体类型和多个实体类型之间的关系;基于结构信息生成与目标应用场景相关的推理任务对应的问题模版和回答路径模版;问题模版包含与问题对象对应的第一实体类型;回答路径模版包含:由与问题对象对应的第一实体类型、与问题答案对应的第二实体类型,以及第一实体类型和第二实体类型之间的关系构成的图谱路径;基于问题模版和回答路径模版生成问答样本对,并基于问答样本对,对预训练完成的LLM基础模型进一步执行微调训练,得到用于执行推理任务的LLM服务模型。
-
公开(公告)号:CN116582406B
公开(公告)日:2023-09-26
申请号:CN202310856785.1
申请日:2023-07-13
Applicant: 支付宝(杭州)信息技术有限公司
IPC: H04L41/0246 , H04L41/069 , H04L43/04
Abstract: 本说明书提供一种监控数据的上传方法及装置,应用于边缘服务器,所述方法包括:在接收到终端上传的推理请求的情况下,基于预设的处理链路对所述推理请求进行处理;对所述推理请求在所述处理链路上的处理过程进行监控,并将监控所得的监控数据以日志形式记录于本地部署的日志模块中;将所述日志模块中的日志数据上传至云端,以由所述云端将所述日志数据上传至监控平台。
-
公开(公告)号:CN116629386A
公开(公告)日:2023-08-22
申请号:CN202310903982.4
申请日:2023-07-21
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06N20/00 , G06F16/2458 , G06F16/27 , G06F21/62 , G06F16/21 , G06F16/23 , G06F16/245
Abstract: 本说明书一个或多个实施方式提供了一种模型训练方法及装置,模型训练方法包括基于实时接收到的训练数据的时间信息确定训练数据的时效性,在训练数据的时效性为有效的情况下,将训练数据存储在云服务器的存储模块中,利用存储模块中存储的训练数据对部署于云服务器的全局模型进行训练。本公开实施方式中,通过对训练数据的时效性筛选,仅存储有效的训练数据,缩减云服务器存储数据量,降低存储压力,而且可以过滤过期或者错误数据,为模型训练提供正确且可靠的数据基础,提高模型训练的稳定性和训练效果。
-
公开(公告)号:CN116610868A
公开(公告)日:2023-08-18
申请号:CN202310860786.3
申请日:2023-07-13
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F16/9535 , G06N5/04 , G06N3/08
Abstract: 本说明书一个或多个实施例提供一种样本标注方法、端边云协同训练方法及装置。该方法包括:获取设置在所述终端设备中的资源推荐网络的输入特征;利用所述资源推荐网络对所述输入特征进行多次推理,并将每次推理的输入特征与该次推理的ID进行绑定;获取已进行推理的待展示资源的曝光数据,并根据所述曝光数据确定所述用户对所述待展示资源的感兴趣程度的真实值;根据所述推理的ID获取对应的输入特征,并利用所述真实值对所述输入特征进行标注,得到样本数据。利用推理解决方案与训练解决方案的信息交互完成端侧自动化的样本数据标注,并通过将推理ID与输入特征绑定,可以保证样本标注与输入特征的对应,以更准确地对资源推荐网络进行训练。
-
公开(公告)号:CN116600020A
公开(公告)日:2023-08-15
申请号:CN202310865087.8
申请日:2023-07-13
Applicant: 支付宝(杭州)信息技术有限公司
Abstract: 本说明书一个或多个实施例提供一种协议生成方法、端云协同推荐方法及装置。该方法应用于协议生成器,协议生成器与云服务器和客户端通信连接,所述云服务器包括多个云上系统;所述方法包括:构建预设格式的协议模板,所述协议模板包括场景模块、策略模块和特征模块;根据待应用的推荐场景确定所述场景模块的场景参数,并根据所述多个云上系统的数据确定所述策略模块中的目标策略参数以及特征模块中的云特征,得到目标协议,所述目标协议用于使所述客户端根据所述目标协议进行端云协同资源推荐。通过根据端云协同推荐场景中的数据结构,构建通用的标准化数据协议,可以提高协议在客户端与不同云上系统之间的复用性,降低管理的复杂性和成本。
-
公开(公告)号:CN116595384A
公开(公告)日:2023-08-15
申请号:CN202310864326.8
申请日:2023-07-14
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F18/214 , G06N20/00 , G06F9/50
Abstract: 本说明书一个或多个实施例提供一种模型训练方法及装置。其中,该方法应用于云端,包括:接收多个终端上传的、基于本地数据对待训练模型进行模型训练产生的训练数据;按照各个终端所属的集群,将由各个终端上传的训练数据记录至与各个集群对应的数据集中,并由与各个集群分别对应的训练模块根据相应数据集中包含的训练数据,对各个集群所对应的待训练模型进行更新,得到与各个集群分别对应的更新后模型;将各个集群所对应的更新后模型,作为相应集群在下一次模型更新时的待训练模型部署至各个终端。
-
公开(公告)号:CN116432039A
公开(公告)日:2023-07-14
申请号:CN202310702653.3
申请日:2023-06-13
Applicant: 支付宝(杭州)信息技术有限公司
IPC: G06F18/214 , G06F18/213
Abstract: 本说明书实施例披露一种协同训练方法及装置,以及一种业务预测方法及装置。协同训练方法由第一方执行,包括:先利用第一方部署的第一预测模型中的第一嵌入层处理训练样本的第一特征部分,得到第一嵌入表征,并从第二方接收第二嵌入表征,其由第二方利用第二预测模型中的第二嵌入层处理训练样本的第二特征部分而得到;再利用第一预测模型中的第一预测层处理第一嵌入表征和第二嵌入表征的第一融合表征,得到第一预测结果,并从第二方接收第二预测结果,其由第二方利用第二预测模型对训练样本进行预测而得到;之后基于第一预测结果、第二预测结果和训练样本的真实标签,训练第一预测模型。上述业务预测方法由第一方基于训练好的第一预测模型而执行。
-
-
-
-
-
-
-
-
-