一种面向医疗咨询场景的语言模型问答流程加速方法

    公开(公告)号:CN119761486A

    公开(公告)日:2025-04-04

    申请号:CN202411966825.9

    申请日:2024-12-30

    Abstract: 本发明涉及一种面向医疗咨询场景的语言模型问答流程加速方法,属于提示工程领域;该方法包括以下步骤:S1:启动时间窗口计时器,初始化缓存区,并通过事件驱动框架接收用户提问;S2:判断时间窗口是否超时,如果未超时,缓存区接收用户的连续提问,刷新时间窗口,并异步执行步骤S4;否则,执行步骤S3;S3:将缓存区中的所有提问整合并传递至语言模型,由语言模型生成相应的回复,然后跳转至步骤S1;S4:利用医疗实体词典对步骤S2中缓存区的提问集合进行实体识别和分类;S5:对步骤S4识别分类出的医疗实体,按照规则生成若干预测提问。如果预测提问被用户点击确认,则将其提交给语言模型以生成相应回复;否则,跳转到步骤S2;本发明能够解决当前语言模型“一问一答”链式模式所带来的问答流程冗长低效的问题。

Patent Agency Ranking