发明授权
- 专利标题: 基于Seq2seq模型的摘要生成方法
-
申请号: CN202110580129.4申请日: 2021-05-26
-
公开(公告)号: CN113312473B公开(公告)日: 2022-06-07
- 发明人: 郭树理 , 宋晓伟 , 韩丽娜 , 杨文涛 , 王国威
- 申请人: 北京理工大学 , 中国人民解放军总医院第二医学中心 , 海南软件职业技术学院
- 申请人地址: 北京市海淀区中关村南大街5号; ;
- 专利权人: 北京理工大学,中国人民解放军总医院第二医学中心,海南软件职业技术学院
- 当前专利权人: 北京理工大学,中国人民解放军总医院第二医学中心,海南软件职业技术学院
- 当前专利权人地址: 北京市海淀区中关村南大街5号; ;
- 代理机构: 北京正阳理工知识产权代理事务所
- 代理商 张利萍
- 主分类号: G06F16/34
- IPC分类号: G06F16/34 ; G06N3/04 ; G06N3/08
摘要:
本发明涉及一种基于Seq2seq模型的摘要生成方法,属于自然语言生成领域。该方法首先将待生成摘要的文本转化为词向量序列;然后将词向量序列输入经训练的Seq2seq模型得到的输出作为摘要。进一步的,对Seq2seq模型中的Encoder编码模型进行了改进,重新定义了LSTM隐层单个细胞节点的输入门和遗忘门结构;对Encoder训练过程中用到的损失函数进行了优化,将训练数据分为子系统,根据不同子系统属性的不同选取适合于子系统特性的损失函数,并根据条件信息熵来计算不同子系统所含信息量的多少,将条件信息熵作为子系统损失函数的权重得到系统的损失函数。对比现有技术,本发明首次将翻译模型Seq2seq用于摘要生成,并根据摘要特点,对Seq2seq进行改进,提高了其在摘要生成时的训练速度和精度。
公开/授权文献
- CN113312473A 基于Seq2seq模型的摘要生成方法 公开/授权日:2021-08-27