公开(公告)号：CN118552965A

公开(公告)日：2024-08-27

申请号：CN202410624083.5

申请日：2024-05-20

申请人： 中国科学院自动化研究所

发明人： 张亚萍 ,  马聪 ,  赵阳 ,  周玉 ,  宗成庆

IPC分类号： G06V30/19 ,  G06V30/18 ,  G06V10/82 ,  G06N3/0455 ,  G06N3/0464 ,  G06N3/084

摘要： 本发明提供一种文本图像翻译模型训练方法、装置、电子设备和存储介质，其中方法包括：获取预训练模型和训练数据，分别对训练数据中的文本图像和源端语言文本字符串进行特征编码，得到文本图像特征和文本特征；分别对文本图像特征和文本特征进行特征解码，得到文本图像翻译结果和文本翻译结果；基于文本图像翻译结果和训练数据中的目标端语言文本字符串，确定文本图像翻译损失；基于文本图像特征、文本特征、文本图像翻译结果和文本翻译结果，确定多层次知识迁移损失；将文本图像翻译损失和多层次知识迁移损失进行融合，得到训练损失，并基于训练损失对预训练模型进行参数更新，得到文本图像翻译模型。本发明能够提升文本图像翻译模型的性能。

公开(公告)号：CN117034965B

公开(公告)日：2024-03-22

申请号：CN202310996132.3

申请日：2023-08-08

申请人： 中国科学院自动化研究所

发明人： 张亚萍 ,  向露 ,  刘宇宸 ,  周玉 ,  宗成庆

IPC分类号： G06F40/58 ,  G06F40/289 ,  G06V30/41 ,  G06N3/045

摘要： 本发明提供一种基于视觉语言预训练的图像文本翻译方法及装置，方法包括：确定源语言图像；将源语言图像输入至图像文本翻译模型，得到图像文本翻译模型输出的源语言图像对应的目标语言文本；其中，图像文本翻译模型的损失值基于样本预测源语言文本与样本源语言图像对应的样本源语言标签之间的差异，以及样本预测目标语言文本与样本目标语言标签之间的差异确定。本发明的图像文本翻译模型基于样本图像特征向量以及样本预测源语言文本对样本源语言图像进行图像文本翻译时，样本图像特征向量能够补充提供相应的视觉信息，对文本识别错误进行校正，以增强图像文本翻译，准确得到样本预测目标语言文本，进而提高图像文本翻译模型的图像文本翻译精度。

公开(公告)号：CN116805004A

公开(公告)日：2023-09-26

申请号：CN202311058414.5

申请日：2023-08-22

申请人： 中国科学院自动化研究所

发明人： 向露 ,  刘宇宸 ,  张亚萍 ,  周玉 ,  宗成庆

IPC分类号： G06F16/332 ,  G06N3/042 ,  G06N3/045 ,  G06N3/096 ,  G06F40/40

摘要： 本发明涉及自然语言处理技术领域，提供一种零资源跨语言对话模型训练方法、装置、设备和介质，所述方法包括：基于初始样本源语言对话数据，构建扩充样本源语言对话数据、第一跨语言对话数据、第二跨语言对话数据、双语平行数据以及样本目标语言对话数据；基于扩充样本源语言对话数据、第一跨语言对话数据以及第二跨语言对话数据中的至少一种，和双语平行数据，训练得到教师模型；将样本目标语言对话数据的对话输入数据输入至教师模型，得到蒸馏对话回复数据；基于样本目标语言对话数据的对话输入数据以及蒸馏对话回复数据进行蒸馏训练，得到零资源跨语言对话模型。本发明快速且低成本为零资源目标语言构建零资源跨语言对话模型。

公开(公告)号：CN115358245A

公开(公告)日：2022-11-18

申请号：CN202210800420.2

申请日：2022-07-06

申请人： 中国科学院自动化研究所

发明人： 张家俊 ,  王迁 ,  宗成庆

IPC分类号： G06F40/58 ,  G06K9/62

摘要： 本发明提供一种翻译模型的训练方法及装置、翻译方法及装置，其中翻译模型的训练方法包括：获取M个翻译任务的训练数据和预设翻译模型；对于M个翻译任务中任意两个翻译任务的训练数据和预设翻译模型，确定任意两个翻译任务之间的目标亲和性；基于各目标亲和性，将各翻译任务进行聚类处理，得到多个目标任务簇；基于各目标任务簇中各翻译任务的训练数据，对各目标任务簇对应的目标翻译模型进行训练。通过确定任意两个翻译任务之间的目标亲和性，可以将对预设翻译模型的翻译结果具有促进作用的各翻译任务进行聚类，得到目标任务簇；基于各目标任务簇，对各目标任务簇对应的目标翻译模型进行训练，能够提高目标翻译模型进行多语言翻译的准确性。

公开(公告)号：CN112800785B

公开(公告)日：2021-07-27

申请号：CN202110392717.5

申请日：2021-04-13

申请人： 中国科学院自动化研究所

发明人： 宗成庆 ,  黄鑫 ,  张家俊 ,  周玉

IPC分类号： G06F40/58 ,  G06F40/295 ,  G06F40/126 ,  G06K9/00

摘要： 本发明提供一种多模态机器翻译方法、装置、电子设备和存储介质，所述方法包括：确定待翻译的源语言文本；将源语言文本输入至翻译模型中，得到翻译模型输出的目标语言文本；翻译模型是基于样本源语言文本和样本目标语言文本，以及与样本源语言文本匹配的样本图像，联合重建模型训练得到的；翻译模型与重建模型共用特征编码层，模型训练过程中特征编码层用于编码第一序列和第二序列，翻译模型基于第一序列的编码进行翻译，重建模型基于第二序列的编码进行重建，第一序列基于样本源语言文本确定，第二序列基于样本源语言文本中的各实体在样本图像中的区域图像和样本源语言文本的非实体确定，提高了质量提升的可解释性并且降低了翻译的复杂度。

公开(公告)号：CN112131861B

公开(公告)日：2021-03-16

申请号：CN202011341577.0

申请日：2020-11-25

申请人： 中国科学院自动化研究所

发明人： 周玉 ,  李梅 ,  向露 ,  宗成庆

IPC分类号： G06F40/205 ,  G06F40/284 ,  G06F40/242 ,  G06N3/04 ,  G06N3/08 ,  G06F16/332

摘要： 本发明属于任务型对话技术领域，具体涉及了一种基于层次化多头交互注意力的对话状态生成方法，旨在解决现有技术精度和准确度低以及成本高、效率低的问题。本发明包括：基于文本词典进行对话文本预处理；通过编码器进行各句子的独立编码，获得对话文本的上下文表示；对解码器输入应用自我注意力机制，获得当前时刻的解码器输入向量；应用多头交互式注意力机制，融合字级别和句子级别的上下文表示，获得对话文本当前时刻的上下文向量表示；结合当前时刻的解码器输入向量，通过非线性映射获得实体和状态作为对话文本的对话状态。本发明可以在无字级别标注信息的情况下取得非常好的效果，不仅节约了数据标注的成本，也提高了模型的精确性与精度。

公开(公告)号：CN111539229A

公开(公告)日：2020-08-14

申请号：CN201910054869.7

申请日：2019-01-21

申请人： 波音公司 ,  中国科学院自动化研究所

发明人： 张家俊 ,  周玉 ,  闫璟辉 ,  宗成庆 ,  杨里

IPC分类号： G06F40/58 ,  G06F40/56 ,  G06F40/295 ,  G06F40/242

摘要： 本发明涉及神经机器翻译模型训练方法、神经机器翻译方法及装置。该神经机器翻译方法包括：识别待翻译的源语句中的命名实体；用与命名实体的类别对应的标签替换所识别的命名实体，获得中间源语句；通过神经机器翻译模型翻译中间源语句，获得带有标签的中间目标语句；从预置的命名实体词典和/或命名实体库查找命名实体的译文；以及用查找到的译文替换中间目标语句中相应的标签，获得与待翻译的源语句对应的目标语句。本发明解决了在机器翻译的过程中，低频的命名实体被错翻译或漏翻译的问题。

公开(公告)号：CN106874362B

公开(公告)日：2020-01-10

申请号：CN201611253245.0

申请日：2016-12-30

申请人： 中国科学院自动化研究所

发明人： 张家俊 ,  李浩然 ,  宗成庆

IPC分类号： G06F16/31 ,  G06F16/33 ,  G06F16/34

摘要： 本发明涉及一种多语言自动文摘方法，包括以下步骤：步骤101，获取多个目标语言文档中的多个谓词论元结构；步骤102，对所述多个谓词论元结构中的每一个谓词论元进行重要性打分；步骤103，根据所述每一个谓词论元的重要性得分，生成目标语言摘要。本发明中，实现了获取指定语言的摘要，且在保证该摘要含有更多的重要信息的信息量时，提高可读性。

公开(公告)号：CN106021224B

公开(公告)日：2019-03-15

申请号：CN201610317745.X

申请日：2016-05-13

申请人： 中国科学院自动化研究所

发明人： 张家俊 ,  刘洋 ,  宗成庆

IPC分类号： G06F17/27 ,  G06F17/28

摘要： 本发明公开了一种双语篇章标注方法，该方法包括：步骤1，对双语句子对中的源语言端和目标语言端句子分别进行自动分词、自动词对齐与自动篇章分析，得到词对齐信息和两端的篇章分析树；步骤2，根据所述步骤1得到的词对齐信息和两端的篇章分析树得到两端句子中基本篇章单元的对应关系；步骤3，根据所述步骤2得到的两端句子中的基本篇章单元及其对应关系，构建双语篇章结构。本发明能够对双语平行句子进行较高一致性的篇章分析。在中英语言对上，经过标注实验的验证：相对于已有的单语篇章分析方法，本发明方法能分析得到一致性程度更高的篇章分析结果，从篇章的切分信息，到篇章的结构信息都有较高的一致性提升。

公开(公告)号：CN109033073A

公开(公告)日：2018-12-18

申请号：CN201810688172.0

申请日：2018-06-28

申请人： 中国科学院自动化研究所

发明人： 杜倩龙 ,  宗成庆 ,  苏克毅

IPC分类号： G06F17/27 ,  G06F17/30 ,  G06N3/08

摘要： 本发明属于自然语言处理技术领域，具体提供了一种文本蕴含识别方法及装置。旨在解决现有技术需要对句子进行复杂的特征描述和特征提取的问题。本发明的文本蕴含识别方法包括对待识别文本蕴含句对的源句子和目标句子进行依存句法分析，并根据分析结果获取源句子依存三元组集合和目标句子依存三元组集合；对源句子依存三元组集合和目标句子依存三元组集合进行语义关系比较，得到比较结果；根据比较结果预测源句子和目标句子之间的语义蕴含关系。本发明的方法可以从整体角度提升句子之间的比较精度，并且提升句子的依存三元组之间的对齐精度，进而提高语义蕴含关系预测的准确率。本发明的装置同样具有上述有益效果。