一种跨任务协作思维链蒸馏方法和装置、系统、存储介质

    公开(公告)号:CN119623654A

    公开(公告)日:2025-03-14

    申请号:CN202411676515.3

    申请日:2024-11-22

    Abstract: 本发明公开一种跨任务协作思维链蒸馏方法和装置、系统、存储介质,包括:步骤S1、生成推理任务数据集的思维链;步骤S2、根据思维链对接受训练的任务进行难度排序;步骤S3、根据思维链和任务难度对学生模型进行正交分组训练;步骤S4、根据LoRA专家组合进行跨任务协作思维链蒸馏。采用本发明的技术方案,通过隐式的隔离不相关任务之间的参数防止发生负向迁移,进一步增加了小模型的推理能力。

    联合蕴含推理结构生成的可解释性多模态多跳推理问答方法

    公开(公告)号:CN118798361B

    公开(公告)日:2025-01-17

    申请号:CN202410963197.2

    申请日:2024-07-18

    Inventor: 张晴 刘杰 吕浩成

    Abstract: 本发明公开了一种联合蕴含推理结构生成的可解释性多模态多跳推理问答方法,包括:对多步问题进行分解,基于分解结果构建事实库;基于所述事实库获得前提语料库,根据预定义符号、所述前提语料库与原始问题生成蕴含树结构;将所述蕴含树结构进行分割,获得多个子树集合,根据所述多个子树集合的长度对所述蕴含树结构进行细化,获得完整蕴含树;构建专家混合模型,基于所述完整蕴含树与所述专家混合模型获得整体特征,基于整体特征与迭代反馈机制对所述完整蕴含树进行优化,获得更新的事实集合与答案。

    一种基于因果推断的多模态事实核查方法

    公开(公告)号:CN118627623B

    公开(公告)日:2025-01-17

    申请号:CN202410888535.0

    申请日:2024-07-04

    Inventor: 张晴 刘杰

    Abstract: 本发明属于自然语言处理、多模态技术领域,公开了一种基于因果推断的多模态事实核查方法,包括:对待核查信息进行跨模态交叉证据检索,获取候选的交叉证据;对候选的交叉证据进行排序,获取跨模态交叉证据信息,包括图像证据和文本证据;建立因果图,并基于因果图构建视觉因果模型,将图像证据输入视觉因果模型中,识别图像证据中的对象级因果特征和非因果特征,并将非因果特征进行去除,获取图像因果对象特征;在因果图的约束下,将图像因果对象特征、待核查信息和文本证据输入反事实推理模型,获取模型预测结果。本发明能够解决复杂的多模态信息验证问题,为用户提供高质量、准确的答案,满足多种行业的现有和潜在需求。

    一种采用多头注意力进行多级特征融合抽取的方法

    公开(公告)号:CN117312487A

    公开(公告)日:2023-12-29

    申请号:CN202311277971.6

    申请日:2023-09-28

    Abstract: 一种采用多头注意力进行多级特征融合抽取的方法,涉及信息抽取领域,包括:获取句子中每个单词的上下文表示并进行识别;利用识别结果计算每对单词的评分向量;计算标签概率;对二维表格进行填充并训练;解码出谓词并过滤掉其他成分;使用多级特征融合器串联特征并将其作为迭代抽取的输入;使用迭代抽取建模每次抽取之间固有的依赖关系,即利用多头注意力模块进行参数提取、标签分类和标签嵌入,获取每个单词在此次抽取的上下文嵌入,通过多级特征融合器将其与其它特征进行串联并作为下一次迭代抽取的输入,重复抽取直至抽取完所有谓词。本发明降低了抽取结果的冗余度,提高了抽取结果的覆盖度和实用性,有助于抽取结果在下游任务中的应用。

    一种基于因果推断的多模态事实核查方法

    公开(公告)号:CN118627623A

    公开(公告)日:2024-09-10

    申请号:CN202410888535.0

    申请日:2024-07-04

    Inventor: 张晴 刘杰

    Abstract: 本发明属于自然语言处理、多模态技术领域,公开了一种基于因果推断的多模态事实核查方法,包括:对待核查信息进行跨模态交叉证据检索,获取候选的交叉证据;对候选的交叉证据进行排序,获取跨模态交叉证据信息,包括图像证据和文本证据;建立因果图,并基于因果图构建视觉因果模型,将图像证据输入视觉因果模型中,识别图像证据中的对象级因果特征和非因果特征,并将非因果特征进行去除,获取图像因果对象特征;在因果图的约束下,将图像因果对象特征、待核查信息和文本证据输入反事实推理模型,获取模型预测结果。本发明能够解决复杂的多模态信息验证问题,为用户提供高质量、准确的答案,满足多种行业的现有和潜在需求。

    一种基于自适应参数更新的终身情感分类方法

    公开(公告)号:CN117435737B

    公开(公告)日:2024-07-05

    申请号:CN202311494405.0

    申请日:2023-11-10

    Abstract: 本发明公开了一种基于自适应参数更新的终身情感分类方法,所属技术领域为参数更新,包括:获取通用情感分类数据集,对所述通用情感分类数据集进行随机抽取,获得情感分类数据集;基于BERT模型构建情感分类器,通过所述情感分类数据集对所述情感分类器依次进行训练,并对训练后的分类器进行迭代网络剪枝和自适应参数更新,获得终身情感分类器;通过所述终身情感分类器对情感进行分类。为了保证模型的稳定性和可塑性,本发明使用两阶段的模型参数更新策略,在终身学习的背景下充分利用了已学习过的知识帮助新任务的学习,并防止知识遗忘。

    一种基于自适应参数更新的终身情感分类方法

    公开(公告)号:CN117435737A

    公开(公告)日:2024-01-23

    申请号:CN202311494405.0

    申请日:2023-11-10

    Abstract: 本发明公开了一种基于自适应参数更新的终身情感分类方法,所属技术领域为参数更新,包括:获取通用情感分类数据集,对所述通用情感分类数据集进行随机抽取,获得情感分类数据集;基于BERT模型构建情感分类器,通过所述情感分类数据集对所述情感分类器依次进行训练,并对训练后的分类器进行迭代网络剪枝和自适应参数更新,获得终身情感分类器;通过所述终身情感分类器对情感进行分类。为了保证模型的稳定性和可塑性,本发明使用两阶段的模型参数更新策略,在终身学习的背景下充分利用了已学习过的知识帮助新任务的学习,并防止知识遗忘。

    联合蕴含推理结构生成的可解释性多模态多跳推理问答方法

    公开(公告)号:CN118798361A

    公开(公告)日:2024-10-18

    申请号:CN202410963197.2

    申请日:2024-07-18

    Inventor: 张晴 刘杰 吕浩成

    Abstract: 本发明公开了一种联合蕴含推理结构生成的可解释性多模态多跳推理问答方法,包括:对多步问题进行分解,基于分解结果构建事实库;基于所述事实库获得前提语料库,根据预定义符号、所述前提语料库与原始问题生成蕴含树结构;将所述蕴含树结构进行分割,获得多个子树集合,根据所述多个子树集合的长度对所述蕴含树结构进行细化,获得完整蕴含树;构建专家混合模型,基于所述完整蕴含树与所述专家混合模型获得整体特征,基于整体特征与迭代反馈机制对所述完整蕴含树进行优化,获得更新的事实集合与答案。

Patent Agency Ranking