公开(公告)号：CN116662508A

公开(公告)日：2023-08-29

申请号：CN202310681185.6

申请日：2023-06-09

申请人： 北京智慧火种科技有限公司

发明人： 朱太和 ,  晏士康

IPC分类号： G06F16/332 ,  G06F40/20 ,  G06Q30/015 ,  G06Q30/0203 ,  G06F21/62 ,  G06F21/64 ,  G06F21/60 ,  G06N3/096 ,  G06N3/082 ,  G06N3/04

摘要： 本发明提供了数字助理服务方法及系统，方法包括获得初始的通用大模型；对初始的通用大模型进行修饰；对修饰后的通用大模型进行微调，以得到微调后的通用大模型；使用私有数据对微调后的通用大模型进行云边联合训练，以得到个性化模型；将微调后的通用大模型部署在云端，将个性化模型部署在本地；接收用户的服务请求，利用部署的通用大模型和个性化模型对服务请求进行数字服务处理。该方法使得大语言模型中对私有数据安全性要求较高的专有化部分和个性化部分运行在本地，通用部分运行在云端，这样非专业用户不需要请专家或花费大量费用建立本地训练环境，从而降低本地训练环境建立的门槛，同时还保障了私有数据的隐私和安全性。

公开(公告)号：CN117033597A

公开(公告)日：2023-11-10

申请号：CN202311023321.9

申请日：2023-08-15

申请人： 北京智慧火种科技有限公司

发明人： 朱太和 ,  晏士康

IPC分类号： G06F16/332 ,  G06F40/30 ,  G06F18/22

摘要： 本发明提供了一种基于大语言模型的智能问答方法，根据用户的私有数据在本地创建问答库和资料库；问答库包括多个标准问题以及关联的标准答案；资料库包括多个标准段落；根据问题查询问答库和/或资料库；当问答库中存在与问题匹配的标准问题时，输出问答库中标准问题关联的标准答案，作为问题的答案；获取资料库中与问题匹配的标准段落，将标准段落和问题输入至大语言模型中；当大语言模型输出的答案与问题匹配时，可定义答案为问题的标准答案,加入问答库。该方法根据用户的私有数据创建问答库和资料库，并结合大语言模型共同完成智能问答，克服了部分领域公开的现成数据较少，大模型在该领域训练不充分，导致大模型在该领域精准度低的缺陷。