-
公开(公告)号:CN118861081A
公开(公告)日:2024-10-29
申请号:CN202411345131.3
申请日:2024-09-26
申请人: 山东浪潮科学研究院有限公司
IPC分类号: G06F16/242 , G06F16/2453 , G06N5/04
摘要: 本发明提出一种基于大语言模型的智能SQL查询生成方法及系统,属于人工智能技术领域,包括:通过训练器智能体收集Text‑to‑SQL相关数据,依托LLAMA‑Factory框架与Qlora微调技术对大语言模型进行微调,利用微调后的大语言模型将Text‑to‑SQL相关数据转换为SQL语句;通过任务规划器智能体将SQL语句的复杂的文本问题逐步分解为更简单的子问题,并利用链式推理生成SQL查询;通过SQL执行器根据反馈修正错误的SQL查询,并将修正后的SQL查询所获得的结果传输给用户;适用于需要自动化SQL查询生成的多种应用场景。
-
公开(公告)号:CN118839021A
公开(公告)日:2024-10-25
申请号:CN202411327797.6
申请日:2024-09-24
申请人: 山东浪潮科学研究院有限公司
IPC分类号: G06F16/36 , G06F16/31 , G06F16/33 , G06F16/335
摘要: 本发明涉及人工智能技术领域,特别是涉及一种智能知识图谱驱动的动态相关性增强检索生成系统及方法,本发明知识图谱构建模块从具有海量文本文档的文本文档集合中,识别并提取实体以及实体关系,以构建知识图谱和知识图谱索引,并对知识图谱的索引进行优化,大大缩短了查询响应时间,提升了用户体验,相关文档收集模块对文本文档与用户查询之间的关系进行深度分析和相关性评估,来提取相关文本文档,从而确保检索结果的多样性和深度,检索增强生成模块根据用户查询和相关性文本文档,从知识图谱中检索相关信息,并将检索到的相关信息与用户查询结合,生成回答,有助于实现更细粒度的相关内容检索,从而提高了回答的质量。
-
公开(公告)号:CN118708678A
公开(公告)日:2024-09-27
申请号:CN202410965713.5
申请日:2024-07-18
申请人: 山东浪潮科学研究院有限公司
IPC分类号: G06F16/33 , G06F16/335 , G06F16/332 , G06F21/62
摘要: 本发明提出一种智能优化与安全增强的检索增强生成系统及方法,属于人工智能技术领域,包括:检索生成模块、性能评估模块、安全性保护模块和交互模块;交互模块用于整合检索结果、大语言模型生成的文本、优化建议和经过安全性保护模块审核后的文本输出给用户,用户可以根据优化建议调整生成参数或处理生成文本。最后用户根据系统反馈的结果和建议进行调整或再次提交任务,系统根据用户反馈进行迭代优化;通过在检索增强生成过程中实时评估文本质量和检索效率,同时确保生成的内容符合安全性和用户需求,为用户提供高质量、高效率且安全可靠的文本生成服务。
-
公开(公告)号:CN118656478A
公开(公告)日:2024-09-17
申请号:CN202411131709.5
申请日:2024-08-19
申请人: 山东浪潮科学研究院有限公司
摘要: 本发明涉及本发明涉及人工智能领域,特别是涉及一种具有自动更新机制的多知识库智能问答方法及系统,将用户输入的问题依次与多个知识库中的问题数据进行相似度匹配,在匹配出相似度大于预设阈值的问题数据时,将匹配出的问题数据所对应的答案数据直接输出,并结束问答流程,若未匹配出相似度大于预设阈值的问题数据时,则对用户问题进行改写,生成标准问题,然后结合标准问题和预设的技能集合,通过大模型识别用户意图确定所需技能,并利用大模型根据确定的技能从标准问题中抽取参数作为技能参数来填充所确定技能,并基于所确定的技能以及填充的技能参数来生成问答结果,从而有助于实现高效的智能问答功能提高用户体验和问答准确性。
-
公开(公告)号:CN118210983B
公开(公告)日:2024-07-30
申请号:CN202410634425.1
申请日:2024-05-22
申请人: 山东浪潮科学研究院有限公司
IPC分类号: G06F16/9535 , G06F16/36 , G06F40/30 , G06F16/215 , G06F16/951 , G06F16/906 , G06F18/22 , G06F18/25 , G06N5/022 , G06N5/04
摘要: 本发明涉及人工智能和自然语言处理技术,特别是涉及一种智能自适应检索增强系统、方法及存储介质,本发明能够自动整合多个数据源的信息,通过ICDA模块智能识别和评估信息冲突,确保生成内容的一致性和准确性,DKM模块负责实时自动更新知识库,保持信息的时效性,同时通过自适应学习机制,整合新数据并解决冲突,减少人工干预,提高工作效率且降低成本,AGS模块则根据用户的反馈和行为动态调整生成策略,生成个性化的文本内容,有助于满足用户需求。
-
公开(公告)号:CN118503394B
公开(公告)日:2024-10-01
申请号:CN202410953959.0
申请日:2024-07-17
申请人: 山东浪潮科学研究院有限公司
摘要: 本发明涉及自然语言处理技术,特别是涉及一种基于大语言模型的自适应决策方法、系统及存储介质,本发明通过对输入问题的复杂性进行分析和评估,组建不同领域的专家模型团队,使得能够灵活调用和组合各领域的深入知识,弥补了单一模型的知识局限性,达到优化决策效率和准确性的目的,通过讨论机制和策略集成来优化决策制定,提升专家模型在处理复杂任务时的整体性能,从而大大提升了处理复杂问题时的推理能力。
-
公开(公告)号:CN118626662A
公开(公告)日:2024-09-10
申请号:CN202411080245.X
申请日:2024-08-08
申请人: 山东浪潮科学研究院有限公司
IPC分类号: G06F16/383 , G06F18/25 , G06F16/338 , G06F16/332
摘要: 本发明涉及人工智能技术领域,特别是涉及一种多模态元数据检索增强生成方法及系统,本发明通过确定查询内容的数据模态,基于确定的数据模态对各模态的数据进行特征提取,并将提取的特征转换为特征向量,各模态的特征向量进行融合,生成多模态特征向量,并从查询内容的各模态数据中提取各模态数据的关键元数据,将关键元数据转换为关键元数据向量与多模态特征向量相连接,构建增强向量,通过增强向量进行检索,有助于提升知识覆盖范围和信息利用效率,提高生成内容的准确性、相关性和可信度。
-
公开(公告)号:CN118394927A
公开(公告)日:2024-07-26
申请号:CN202410652249.4
申请日:2024-05-24
申请人: 山东浪潮科学研究院有限公司
摘要: 本发明涉及计算机数据处理领域,具体涉及一种基于知识蒸馏的文本摘要生成模型训练方法、系统及存储介质,本发明通过收集不同领域得文本数据作为训练数据,对收集的教师模型和学生模型进行微调训练,并利用教师模型的推理过程和推理过程中生成的标签对学生模型进行蒸馏训练,有助于实现高效且高性能的文本摘要内容生成,并且能够高质量地解决低资源情况下文本摘要内容生成问题。
-
公开(公告)号:CN117992078A
公开(公告)日:2024-05-07
申请号:CN202410397188.1
申请日:2024-04-03
申请人: 山东浪潮科学研究院有限公司
IPC分类号: G06F8/61 , G06F8/65 , G06F8/71 , G06F9/50 , G06F9/54 , G06F9/455 , H04L67/02 , H04L67/1008 , H04L67/133 , G06N5/04 , G06N3/0455 , G06N3/0464 , G06N3/0442 , G06N3/0495 , G06N3/082
摘要: 本发明涉及人工智能技术领域,具体涉及一种基于TensorRT‑LLM模型推理加速服务的自动化部署方法,包括以下步骤:S1:通过用户界面接收用户选择的模型;S2:评估并选择合适的加速配置;S3:生成加速模型引擎;S4:在隔离的预测试环境中部署加速模型引擎,并自动分配所需的GPU资源;S5:调整加速配置和GPU资源分配;S6:将优化后的模型进行线上推理服务的自动化部署;S7:监控和管理线上部署的模型推理服务。本发明,通过自动化加速策略选择和利用现代容器化及推理框架实现快速部署,结合统一的管理界面提供高效的模型监控和运维,显著提升了深度学习模型的推理性能、部署效率及服务的稳定性和可管理性。
-
公开(公告)号:CN117875327A
公开(公告)日:2024-04-12
申请号:CN202410086518.5
申请日:2024-01-22
申请人: 山东浪潮科学研究院有限公司
IPC分类号: G06F40/295 , G06F40/289
摘要: 本发明涉及计算机科学技术领域,具体为一种基于信息抽取的大语言模型幻觉检测方法及系统,包括以下步骤:针对关键信息以及对应的大语言模型生成相关内容;基于命名实体识别模型检测出实体,计算生成内容实体与关键信息对应的实体差集,进而定位生成内容中的虚假句子;有益效果为:本发明提出的基于信息抽取的大语言模型幻觉检测方法及系统,通过命名实体识别模型检测出实体,然后计算生成内容虚假实体,进而定位生成内容中的虚假句子,并利用本地知识库等外部真实信息库对这些候选虚假句子进行二次判断得到真正虚假句子以及对应的真实信息,最后基于生成的内容、虚假句子以及真实信息构建提示,进而基于大语言模型进行幻觉修复。
-
-
-
-
-
-
-
-
-