公开(公告)号：CN117216564A

公开(公告)日：2023-12-12

申请号：CN202311181934.5

申请日：2023-09-14

Applicant: 国网上海市电力公司 ,  华东电力试验研究院有限公司 ,  东华大学

Inventor： 王琛 ,  华珉 ,  齐晓曼 ,  罗裬 ,  赵三珊 ,  唐雪嵩 ,  王煜芳 ,  宋佳乐

IPC: G06F18/214 ,  G06F16/332 ,  G06F16/215 ,  G06F21/62

Abstract: 本发明涉及一种小领域垂域专家的大模型自动化微调训练方法及设备，所述方法包括以下步骤：获取本地非结构化文本，对所述本地非结构化文本进行预处理，生成结构化训练集；利用大语言模型，基于所述结构化训练集，生成具有指定格式的问答对数据集；运用所述问答对数据集，对所述大语言模型进行基于P‑Tuning v2方法的微调，获得最终的小领域垂域对话语言模型。与现有技术相比，本发明在降低算力和设备要求、避免数据隐私泄露以及安全风险的基础上实现小领域垂域对话语言模型的可靠应用。

公开(公告)号：CN117216289A

公开(公告)日：2023-12-12

申请号：CN202311181931.1

申请日：2023-09-14

Applicant: 国网上海市电力公司 ,  华东电力试验研究院有限公司 ,  东华大学

Inventor： 王琛 ,  齐晓曼 ,  罗裬 ,  李文清 ,  刘恋 ,  赵琪 ,  唐雪嵩 ,  张钰笛 ,  宋佳乐

IPC: G06F16/36 ,  G06F16/332 ,  G06Q50/06 ,  G06Q10/0639 ,  G06F40/289

Abstract: 本发明涉及一种基于知识图谱的电网大语言模型知识问答可信度评价方法、存储介质、设备，所述方法包括以下步骤：基于某个电力领域问题获取电网大语言模型的答案，同时基于所述电力领域问题生成相应的知识图谱；抽取所述答案中的实体关系，将该实体关系与知识图谱中的实体关系进行比对，计算所述答案与知识图谱的相似度；基于所述相似度生成可信度评分。与现有技术相比，本发明具有可靠性高、提升模型质量等优点。