公开(公告)号：CN117390275A

公开(公告)日：2024-01-12

申请号：CN202311366242.8

申请日：2023-10-20

Applicant: 东南大学 ,  国家电网有限公司华北分部

Inventor： 宋爱波 ,  邱敬怡 ,  方效林 ,  孙季斌 ,  王清未 ,  张勇 ,  苏猛猛

IPC: G06F16/9535 ,  G06N5/022

Abstract: 本发明提供了一种基于知识图谱的序列化推荐方法，包括：设计时间注意力机制训练序列化推荐模型，建模用户历史兴趣序列；设计多粒度聚合方法训练知识图谱表示学习模型，建模物品辅助信息；采用多任务学习框架将序列化推荐模型和知识图谱模型相结合，在用户兴趣和物品信息间搭建桥梁，推荐用户感兴趣的物品。与现有推荐方法相比，本发明一是能挖掘用户随时间推移的动态偏好；二是能挖掘物品高阶信息，避免物品信息损失；三是提出为用户动态兴趣序列与物品静态辅助信息通过多任务学习完成信息共享，提升推荐效果。

公开(公告)号：CN113962214B

公开(公告)日：2024-07-16

申请号：CN202111239034.2

申请日：2021-10-25

Applicant: 东南大学

Inventor： 宋爱波 ,  周宇 ,  孙季斌

IPC: G06F40/216 ,  G06F40/295 ,  G06F16/33 ,  G06N3/0455 ,  G06N3/08

Abstract: 本发明提供了一种基于ELETRIC‑BERT的实体抽取方法，包括：通过预训练得到领域预训练模型ELETRIC‑BERT；将领域预训练模型ELETRIC‑BERT与实体抽取基本模型进行整合，得到基于ELETRIC‑BERT的实体抽取模型；使用模块替换策略，将原模型参数量压缩为原来的一半；使用压缩后的模型，进行实体抽取任务，从文本语料中抽取出领域实体。与现有实体抽取技术相比，本发明可以在实现高准确抽取率的同时，大幅度减少模型对标注语料的依赖。

公开(公告)号：CN113962214A

公开(公告)日：2022-01-21

申请号：CN202111239034.2

申请日：2021-10-25

Applicant: 东南大学

Inventor： 宋爱波 ,  周宇 ,  孙季斌

IPC: G06F40/216 ,  G06F40/295 ,  G06F16/33 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提供了一种基于ELETRIC‑BERT的实体抽取方法，包括：通过预训练得到领域预训练模型ELETRIC‑BERT；将领域预训练模型ELETRIC‑BERT与实体抽取基本模型进行整合，得到基于ELETRIC‑BERT的实体抽取模型；使用模块替换策略，将原模型参数量压缩为原来的一半；使用压缩后的模型，进行实体抽取任务，从文本语料中抽取出领域实体。与现有实体抽取技术相比，本发明可以在实现高准确抽取率的同时，大幅度减少模型对标注语料的依赖。