公开(公告)号：CN114819139A

公开(公告)日：2022-07-29

申请号：CN202210315789.4

申请日：2022-03-28

申请人： 支付宝(杭州)信息技术有限公司 ,  中国人民大学

发明人： 赵鑫 ,  侯宇蓬 ,  胡斌斌 ,  张志强 ,  周俊

IPC分类号： G06N3/08 ,  G06N3/04

摘要： 本说明书实施例提供一种图神经网络的预训练方法及装置，获取业务关系图的图集合，各业务关系图中的节点表示业务对象，连接边表示业务关联关系；图集合包括第一图和目标图，第一图和目标图基于同一样本业务关系图分别进行预设增强处理而得到；针对第一图，分别将图集合中各其他图作为第二图，利用图神经网络进行图间匹配表征，图间匹配表征包括，基于第一图自身，结合来自第二图的节点信息，确定该第一图的第一图表征，用于表示第一图相对于第二图的业务结构关联；基于第二图自身，结合来自第一图的节点信息，确定该第二图的第二图表征；至少基于将目标图作为第二图时得到的第一图表征和第二图表征，确定第一损失；根据第一损失，训练图神经网络。

公开(公告)号：CN110674417B

公开(公告)日：2022-03-11

申请号：CN201910902974.1

申请日：2019-09-24

申请人： 中国人民大学

发明人： 赵鑫 ,  侯宇蓬 ,  陈俊华 ,  文继荣

IPC分类号： G06F16/9536 ,  G06N20/00

摘要： 本发明提供了一种基于用户关注关系的标签推荐方法，所述方法具体为：1)使用传统的PageRank算法生成用户影响力分数和标签影响力分数2)使用图嵌入模型对用户关注网络和用户‑标签网络进行训练，生成用户向量和标签向量结合所述影响力分数标签影响力分数用户向量以及所述标签向量为用户推荐标签。本发明提供的基于用户关注关系的标签推荐方法，从蕴含丰富信息的用户关注网络和用户标签网络中挖掘信息，可以使社交网络中的用户特征信息更加丰富，使服务提供商更好地理解用户。

公开(公告)号：CN110674417A

公开(公告)日：2020-01-10

申请号：CN201910902974.1

申请日：2019-09-24

申请人： 中国人民大学

发明人： 赵鑫 ,  侯宇蓬 ,  陈俊华 ,  文继荣

IPC分类号： G06F16/9536 ,  G06N20/00

摘要： 本发明提供了一种基于用户关注关系的标签推荐方法，所述方法具体为：1)使用传统的PageRank算法生成用户影响力分数 和标签影响力分数 2)使用图嵌入模型对用户关注网络和用户-标签网络进行训练，生成用户向量和标签向量 结合所述影响力分数 标签影响力分数 用户向量 以及所述标签向量 为用户推荐标签。本发明提供的基于用户关注关系的标签推荐方法，从蕴含丰富信息的用户关注网络和用户标签网络中挖掘信息，可以使社交网络中的用户特征信息更加丰富，使服务提供商更好地理解用户。

公开(公告)号：CN115408988A

公开(公告)日：2022-11-29

申请号：CN202211109840.2

申请日：2022-09-13

申请人： 中国人民大学

发明人： 赵鑫 ,  侯宇蓬 ,  牟善磊 ,  文继荣

IPC分类号： G06F40/126 ,  G06N3/08 ,  G06Q30/06

摘要： 本发明公开了一种推荐系统中的通用商品序列表征学习方法，包括如下步骤：S1：使用预训练语言模型编码商品的关联文本从而学习可迁移的商品表征；首先使用预训练语言模型来学习初始文本表征，通过参数白化网络和混合专家增强的适配器网络将文本的语义转换至一个适用于推荐任务的统一的语义空间；S2：通过序列‑商品对比任务和序列‑序列对比任务来进一步增强不同领域数据表示之间的融合与适配；S3：根据目标领域的商品标号是否适合使用，而考虑两种微调设定，即归纳和转导。本发明提出的商品序列表征学习方法，可以在多个领域的序列数据上同时学习通用表征，并高效地迁移到新领域、新市场、新平台等新的推荐场景中，而无需共享的用户或商品。

公开(公告)号：CN115408505A

公开(公告)日：2022-11-29

申请号：CN202211110295.9

申请日：2022-09-13

申请人： 中国人民大学

发明人： 赵鑫 ,  尚琛展 ,  侯宇蓬 ,  张静

IPC分类号： G06F16/332 ,  G06F16/36 ,  G06F16/9535 ,  G06F17/16 ,  G06N3/04 ,  G06N3/08

摘要： 本发明公开了一种基于双通道超图兴趣建模的对话推荐算法，其包括如下步骤：S1：首先对知识图谱的实体进行使用关系型卷积神经网络进行编码，通过知识图谱引入外部知识提升推荐性能；S2：抽取用户历史对话中的物品信息，通过双通道超图建模的方式进行增强其表示；S3：为了让推荐结果首先关注当前的对话内容，避免过度拟合到历史兴趣上去，利用多头注意力机制进行检索与权衡；S4：构建了一个知识增强的编码器‑解码器框架，根据用户的兴趣偏好生成有意义的回复。本发明引入用户的历史对话作为先验知识，并将其中的实体信息构造为两类超图进行建模，从而提升模型对于用户兴趣的理解。

公开(公告)号：CN114861602A

公开(公告)日：2022-08-05

申请号：CN202210501123.8

申请日：2022-05-10

申请人： 中国人民大学

发明人： 赵鑫 ,  侯宇蓬 ,  牟善磊 ,  文继荣

IPC分类号： G06F40/126 ,  G06N3/08 ,  G06Q30/06

摘要： 本发明公开了一种推荐系统中的通用商品序列表征学习方法，包括如下步骤：S1：通过编码商品的文本从而学习可迁移的商品表征；首先使用预训练语言模型来学习初始文本表征，通过参数白化网络和混合专家增强的适配器网络将文本的语义转换至一个适用于推荐任务的统一的语义空间；S2：通过序列‑商品对比任务和序列‑序列对比任务来进一步增强不同领域之间的融合与适配；S3：根据目标领域的商品标号是否适合使用，而考虑两种微调设定，即归纳和转导。本发明提出的商品序列表征学习方法，可以在多个领域的序列数据上同时学习通用表征，并高效地迁移到新领域、新市场、新平台等新的推荐场景中，而无需共享的用户或商品。