一种基于掩码语言模型的文本三元组提取方法及装置
摘要:
本发明公开了一种基于掩码语言模型的文本三元组提取方法及装置,首先用自定义模板和自定义分隔符构造掩码语言模型的训练样本,包含实体类型预测的训练样本和关系类型预测的训练样本,并进行向量化表示,对掩码语言模型进行训练和预测,得到掩模位置上模型词中某个字符的置信度,选取各实体类型名称对应位置的置信度的最大值,该最大值为实体类型结果的置信度;将预测的实体和实体之间的关系形成三元组。本发明利用掩码语言模型对上下文的建模能力进行文本实体识别和关系识别,可在少量标注样本场景下的达到高准确率,减少了通常的用分类层进行多种类型识别时扩展性差的问题,同时用相同的方法进行关系识别,最终可得到三元组和事件单元。
0/0