公开(公告)号：CN115641490A

公开(公告)日：2023-01-24

申请号：CN202211243792.6

申请日：2022-10-11

Applicant: 华为技术有限公司 ,  北京大学

Inventor： 王奕森 ,  王启讯 ,  王一飞 ,  祝宏 ,  李璟洁

IPC: G06V10/82 ,  G06V10/80 ,  G06V10/774 ,  G06V10/764 ,  G06N3/0464 ,  G06N3/048 ,  G06N3/084

Abstract: 一种数据处理方法，应用于模型的对抗训练，所述方法包括：获取第一扰动，所述第一扰动的秩小于训练数据的秩；所述第一扰动用于和所述训练数据融合得到第一数据；根据所述第一数据，通过机器学习模型，得到损失，所述损失用于对所述第一扰动进行更新，得到第二扰动；所述第二扰动用于和所述训练数据融合得到第二数据；所述第二数据用于对所述机器学习模型进行更新。本申请在扰动中引入了低秩的结构，有助于更好地捕捉并滤除低秩的虚假信息(或者可以称之为虚假特征)，可以有效的对训练样本中的虚假特征施加扰动，进而可以增加训练后的模型对于数据中虚假特征的鲁棒性，进而实现良好的OOD性能。

公开(公告)号：CN116204709A

公开(公告)日：2023-06-02

申请号：CN202211733957.8

申请日：2022-12-30

Applicant: 华为技术有限公司

Inventor： 张琪 ,  夏雪松 ,  李璟洁 ,  唐睿明 ,  董振华 ,  张瑞

IPC: G06F16/9535 ,  G06F18/25

Abstract: 一种数据处理方法，可以应用于信息推荐领域，方法包括：获取第一样本，所述第一样本包括第一数据；所述第一数据为用户属性、物品属性或者上下文信息；从多个嵌入表征中的每个嵌入表征中获取所述第一数据对应的一个第一嵌入向量；基于所述目标推荐场景的信息，确定每个所述第一嵌入向量对应的第一权重；所述第一权重用于将多个所述第一嵌入向量进行融合，得到第一融合向量；至少根据所述第一融合向量，通过推荐模型，得到推荐结果。通过权重确定将多个嵌入向量进行组合，既可以捕捉领域间的共享知识，又可以组合出领域特异的嵌入向量，进而可以学习领域间的共性并捕获领域间差异，进而提高推荐模型的推荐精度。

公开(公告)号：CN115917535A

公开(公告)日：2023-04-04

申请号：CN202080103030.9

申请日：2020-07-24

Applicant: 华为技术有限公司

Inventor： 李璟洁 ,  祝宏 ,  董振华 ,  张小莲 ,  殷实 ,  冯新华 ,  何秀强

IPC: G06F18/214

Abstract: 提供了人工智能领域中的一种推荐模型的训练方法、推荐方法、装置及计算机可读介质。该训练方法包括：获取第一推荐模型(S610)，第一推荐模型的模型参数是基于n个第一训练样本进行训练得到的；确定每个第一训练样本对m个第二训练样本在第一推荐模型上的验证损失的影响函数值(S620)；基于每个第一训练样本对验证损失的影响函数值确定每个第一训练样本对应的权重(S630)；根据n个第一训练样本和n个第一训练样本对应的权重训练第一推荐模型，得到目标推荐模型(S640)。能够减轻训练样本的数据分布不一致对推荐模型训练的影响，提高推荐模型的准确性。

公开(公告)号：CN114997412A

公开(公告)日：2022-09-02

申请号：CN202210536912.5

申请日：2022-05-17

Applicant: 华为技术有限公司

Inventor： 贾庆林 ,  刘晓帆 ,  李璟洁 ,  唐睿明 ,  董振华

IPC: G06N20/00 ,  G06N3/08

Abstract: 本申请提供人工智能领域的一种推荐方法、训练方法以及装置，用于在推荐模型中设置多个塔专家网络，从而避免数据稀疏带来的过拟合问题，提高模型的输出稳定性。该方法包括：获取输入数据；随后，将输入数据作为推荐模型的输入，输出推荐信息，该推荐模型为多任务模型，推荐模型中包括共享特征提取网络、每个任务分别对应的多个塔专家网络以及任务专有特征提取网络，共享特征提取网络用于从输入数据中提取共享特征，任务专有特征提取网络用于从输入数据中提取单个任务的塔专家共享特征，塔专家网络用于基于任务专有特征提取网络以及共享特征提取网络提取到的特征执行对应任务，多个任务分别对应的多个塔专家网络的输出经加权融合后得到推荐信息。

公开(公告)号：CN117009649A

公开(公告)日：2023-11-07

申请号：CN202310802390.3

申请日：2023-06-30

Applicant: 华为技术有限公司 ,  清华大学

Inventor： 王亦凡 ,  孙培杰 ,  张敏 ,  贾庆林 ,  刘奕群 ,  马少平 ,  李璟洁

IPC: G06F16/9535 ,  G06Q10/04 ,  G06N3/08

Abstract: 一种数据处理方法，可以应用于人工智能领域，方法包括：获取第一训练样本，所述第一训练样本指示所述第一用户对所述第一物品进行了第一行为、且未进行第二行为；根据所述第一属性信息、以及所述第一行为的时间和第一截止时间的时间间隔，通过第一模型，预测所述第一用户会对所述第一物品进行第二行为的概率，根据所述概率对第二模型对应的第一损失进行调整，得到调整后的损失；根据所述调整后的损失，更新所述第二模型。本申请通过第一模型来预测用户在第一行为之后会进行第二行为的概率，并基于该概率来调整标签，也就是调整损失函数，调整后的损失函数可以在理论上和理想损失函数之间不存在偏差，从而提高了训练后的推荐模型的推荐精度。

公开(公告)号：CN116611861A

公开(公告)日：2023-08-18

申请号：CN202310372707.4

申请日：2023-03-31

Applicant: 华为技术有限公司

Inventor： 武楚涵 ,  贾庆林 ,  李璟洁 ,  祝宏 ,  唐睿明

IPC: G06Q30/0202 ,  G06Q30/0203 ,  G06F18/27 ,  G06F18/214 ,  G06F18/213

Abstract: 本申请公开了一种消费预测方法及其相关设备，在针对用户进行消费预测的过程中，所考虑的因素较为全面，可以使得最终得到的用户的预测消费额度具备足够高的准确度。本申请的方法包括：当需要针对用户进行消费预测时，可先获取与用户相关联的信息，并将该信息输入至目标模型中。接着，目标模型可对该信息进行特征提取处理，从而得到用户的消费概率。与此同时，目标模型还可对该信息进行第一回归处理，从而得到用户的第一消费额度，并对该信息进行第二回归处理，从而得到用户的第二消费额度。最后，目标模型可对消费概率、第一消费额度以及第二消费额度进行处理，从而得到用户的预测消费额度。

公开(公告)号：CN116467594A

公开(公告)日：2023-07-21

申请号：CN202310377216.9

申请日：2023-03-31

Applicant: 华为技术有限公司

Inventor： 武楚涵 ,  贾庆林 ,  李璟洁 ,  李辰宇 ,  唐睿明

IPC: G06F18/214 ,  G06F18/213 ,  G06F18/25 ,  G06N3/096 ,  G06N5/022 ,  G06Q30/0202 ,  G06Q30/0241

Abstract: 一种推荐模型的训练方法，应用于人工智能技术领域。在该方法中，先基于训练样本的特征来生成用于表征训练样本对应的推荐对象的标识特征，能够实现样本内知识迁移；再将训练样本的特征和标识特征融合后输入至全局共享网络和场景专有网络中进行结果预测，以充分学习场景间的共有信息和专有信息，实现跨场景知识迁移。通过同时开展样本内知识迁移和跨场景知识迁移，能够减轻模型对训练数据的依赖，充分地提高知识迁移效率，有效帮扶稀疏数据样本，提高模型的预测准确性。