发明授权
- 专利标题: 文本摘要生成方法、装置、设备和存储介质
-
申请号: CN202110702675.0申请日: 2021-06-24
-
公开(公告)号: CN113434662B公开(公告)日: 2022-06-24
- 发明人: 王改 , 吴少康
- 申请人: 平安国际智慧城市科技股份有限公司
- 申请人地址: 广东省深圳市前海深港合作区妈湾兴海大道3048号前海自贸大厦1-34层
- 专利权人: 平安国际智慧城市科技股份有限公司
- 当前专利权人: 平安国际智慧城市科技股份有限公司
- 当前专利权人地址: 广东省深圳市前海深港合作区妈湾兴海大道3048号前海自贸大厦1-34层
- 代理机构: 深圳国新南方知识产权代理有限公司
- 代理商 艾青
- 主分类号: G06F16/34
- IPC分类号: G06F16/34 ; G06F40/289 ; G06F40/30
摘要:
本申请提出一种文本摘要生成方法、装置、设备和存储介质,本申请利用被样本摘要标注的样本文本对预训练Bert模型进行模型训练,并通过抽检的方式对训练过程中的检测模型进行能力检测,以及时将训练节点从糟糕的训练节点回退至较好的历史训练节点,进而通过回退操作纠正训练方向直至训练完成。本申请有效提升Bert在摘要模型上的表现能力的同时,尽量避免Bert模型在训练微调过程中发生灾难性遗忘等其他丧失本身基本功能的问题,保证了最后得到的已训练的摘要生成模型既保留了Bert模型原本的各种强大功能,也具有较好的摘要生成功能,进而保证生成的摘要具有较高的准确性和可读性。
公开/授权文献
- CN113434662A 文本摘要生成方法、装置、设备和存储介质 公开/授权日:2021-09-24