面向多跳问题的大语言模型推理问答增强方法

    公开(公告)号:CN119378686A

    公开(公告)日:2025-01-28

    申请号:CN202411501095.5

    申请日:2024-10-25

    Abstract: 面向多跳问题的大语言模型推理问答增强方法,涉及大语言模型的推理增强技术领域。本发明是为了解决现有的大语言模型推理问答方法还存在推理准确率低的问题。本发明包括:将问题构建为问题树,并对问题树进行后序遍历;对于叶节点,获取问题树中叶节点的对应子问题的候选答案及候选答案的概率分布;对于问题树中的中间节点,对中间节点对应的子问题进行波束组合,将问题中的占位符替换为对应问题的答案,获取替换后的问题的候选答案集合及分布概率。对于根节点对应的子问题进行波束组合,将问题中的占位符替换为对应问题的答案,然后输出替换后问题的候选答案及概率分布,选择对应概率最高的答案作为最终答案。本发明用于推理获得多跳问题的答案。

Patent Agency Ranking