公开(公告)号：CN117852654B

公开(公告)日：2024-09-03

申请号：CN202410166430.4

申请日：2024-02-05

申请人： 清华大学

发明人： 李海涛 ,  刘奕群 ,  艾清遥 ,  陈佳 ,  董骞 ,  吴之璟

IPC分类号： G06N5/04 ,  G06N5/022 ,  G06F18/22 ,  G06N20/00 ,  G06N5/01

摘要： 本申请涉及一种模型训练方法和解决特定领域问题的方法，其中，模型训练方法包括：获取第一样本数据；第一样本数据包括N个第一问题文本和N个第一答案文本；根据第一样本数据和第一大语言模型，得到N个第一知识文本；根据第一样本数据中的至少部分数据和N个第一知识文本中的至少部分数据，对第一中间语言模型继续进行训练，得到第一语言模型；本申请提供的模型训练方法通过预训练一个应用于特定领域的小型语言模型，并利用大语言模型生成伪数据对该小型语言模型进行调整，可以得到能够生成针对特定领域问题的相关知识的第一语言模型，第一语言模型可以帮助大语言模型解决特定领域问题，提高大语言模型解决特定领域问题的能力。

公开(公告)号：CN117852654A

公开(公告)日：2024-04-09

申请号：CN202410166430.4

申请日：2024-02-05

申请人： 清华大学

发明人： 李海涛 ,  刘奕群 ,  艾清遥 ,  陈佳 ,  董骞 ,  吴之璟

IPC分类号： G06N5/04 ,  G06N5/022 ,  G06F18/22 ,  G06N20/00 ,  G06N5/01

摘要： 本申请涉及一种模型训练方法和解决特定领域问题的方法，其中，模型训练方法包括：获取第一样本数据；第一样本数据包括N个第一问题文本和N个第一答案文本；根据第一样本数据和第一大语言模型，得到N个第一知识文本；根据第一样本数据中的至少部分数据和N个第一知识文本中的至少部分数据，对第一中间语言模型继续进行训练，得到第一语言模型；本申请提供的模型训练方法通过预训练一个应用于特定领域的小型语言模型，并利用大语言模型生成伪数据对该小型语言模型进行调整，可以得到能够生成针对特定领域问题的相关知识的第一语言模型，第一语言模型可以帮助大语言模型解决特定领域问题，提高大语言模型解决特定领域问题的能力。