- 专利标题: 一种基于掩码语言模型的文本三元组提取方法及装置
-
申请号: CN202210426479.X申请日: 2022-04-22
-
公开(公告)号: CN114528394B公开(公告)日: 2022-08-26
- 发明人: 韩瑞峰 , 杨红飞 , 金霞 , 程东
- 申请人: 杭州费尔斯通科技有限公司
- 申请人地址: 浙江省杭州市滨江区西兴街道阡陌路482号B楼第七层
- 专利权人: 杭州费尔斯通科技有限公司
- 当前专利权人: 杭州费尔斯通科技有限公司
- 当前专利权人地址: 浙江省杭州市滨江区西兴街道阡陌路482号B楼第七层
- 代理机构: 杭州求是专利事务所有限公司
- 代理商 刘静
- 主分类号: G06F16/335
- IPC分类号: G06F16/335 ; G06F16/35 ; G06F40/169 ; G06F40/186 ; G06F40/295
摘要:
本发明公开了一种基于掩码语言模型的文本三元组提取方法及装置,首先用自定义模板和自定义分隔符构造掩码语言模型的训练样本,包含实体类型预测的训练样本和关系类型预测的训练样本,并进行向量化表示,对掩码语言模型进行训练和预测,得到掩模位置上模型词中某个字符的置信度,选取各实体类型名称对应位置的置信度的最大值,该最大值为实体类型结果的置信度;将预测的实体和实体之间的关系形成三元组。本发明利用掩码语言模型对上下文的建模能力进行文本实体识别和关系识别,可在少量标注样本场景下的达到高准确率,减少了通常的用分类层进行多种类型识别时扩展性差的问题,同时用相同的方法进行关系识别,最终可得到三元组和事件单元。
公开/授权文献
- CN114528394A 一种基于掩码语言模型的文本三元组提取方法及装置 公开/授权日:2022-05-24