公开(公告)号：CN118939783B

公开(公告)日：2025-02-07

申请号：CN202411429185.8

申请日：2024-10-14

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)

Inventor： 李晶 ,  陆逸樊 ,  周艺耕 ,  何道敬 ,  张民

IPC: G06F16/3329 ,  G06F16/36 ,  G06F18/27 ,  G06F18/214

Abstract: 本发明提供一种基于知识图谱检索增强的大模型推理方法及装置，涉及自然语言处理技术领域。该方法包括：使用ChatGPT生成多指令微调数据集；根据多指令微调数据集，对大语言模型进行自回归训练，获得微调后大语言模型；基于知识图谱，根据知识密集型查询以及知识实体集合，通过微调后大语言模型进行迭代推理，获得第一证据子图；基于回归评分器以及预设得分阈值，对第一证据子图进行剪枝，获得第二证据子图；基于第二提示模板，根据第二证据子图以及知识密集型查询，通过微调后大语言模型进行联合推理，获得查询推理结果。本发明是一种基于知识图谱增强的有效结合外部知识且回答复杂多跳问题准确的大模型推理方法。

公开(公告)号：CN118939783A

公开(公告)日：2024-11-12

申请号：CN202411429185.8

申请日：2024-10-14

Applicant: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)

Inventor： 李晶 ,  陆逸樊 ,  周艺耕 ,  何道敬 ,  张民

IPC: G06F16/332 ,  G06F16/36 ,  G06F18/27 ,  G06F18/214

Abstract: 本发明提供一种基于知识图谱检索增强的大模型推理方法及装置，涉及自然语言处理技术领域。该方法包括：使用ChatGPT生成多指令微调数据集；根据多指令微调数据集，对大语言模型进行自回归训练，获得微调后大语言模型；基于知识图谱，根据知识密集型查询以及知识实体集合，通过微调后大语言模型进行迭代推理，获得第一证据子图；基于回归评分器以及预设得分阈值，对第一证据子图进行剪枝，获得第二证据子图；基于第二提示模板，根据第二证据子图以及知识密集型查询，通过微调后大语言模型进行联合推理，获得查询推理结果。本发明是一种基于知识图谱增强的有效结合外部知识且回答复杂多跳问题准确的大模型推理方法。