发明公开
- 专利标题: 基于Transformer模型的实体关系抽取方法和系统
-
申请号: CN202111101997.6申请日: 2021-09-18
-
公开(公告)号: CN113806514A公开(公告)日: 2021-12-17
- 发明人: 李哲 , 傅洛伊 , 王新兵
- 申请人: 上海交通大学
- 申请人地址: 上海市闵行区东川路800号
- 专利权人: 上海交通大学
- 当前专利权人: 上海交通大学
- 当前专利权人地址: 上海市闵行区东川路800号
- 代理机构: 上海汉声知识产权代理有限公司
- 代理商 胡晶
- 主分类号: G06F16/335
- IPC分类号: G06F16/335 ; G06F40/117 ; G06F40/126 ; G06F40/242 ; G06F40/295 ; G06F40/30 ; G06N3/04 ; G06N3/08
摘要:
本发明提供了一种基于Transformer模型的实体关系抽取方法和系统,包括:对非结构化文本进行数据处理,得到实体以及对应关系;根据关系类型,将关系抽取转换成填空的形式;基于Transformer结构,构建联合抽取模型,在编码器进行实体抽取,在非自回归解码器进行关系抽取;在解码器输入关系模板,基于前馈神经网络的复制机制,输出具有对应关系的实体对;通过两阶段排序策略和负采样机制训练模型,并对联合抽取模型效果的进行测试,并依据测试结果调整联合抽取模型。通过本发明可以实现在非结构化文本中进行特定关系的抽取,并识别出对应的实体,从而利用文本中有价值的信息。
公开/授权文献
- CN113806514B 基于Transformer模型的实体关系抽取方法和系统 公开/授权日:2024-03-01