公开(公告)号：CN114443846B

公开(公告)日：2024-07-16

申请号：CN202210079337.0

申请日：2022-01-24

申请人： 重庆邮电大学

发明人： 李校林 ,  赵路伟 ,  伍晓思

IPC分类号： G06F16/35 ,  G06F16/31 ,  G06F40/205 ,  G06N3/0455 ,  G06N3/042 ,  G06N3/08

摘要： 本发明属于人工智能的自然语言处理领域，具体涉及一种基于多层级文本异构图的分类方法、装置及电子设备，包括获取整句文本输入BERT模型构建整句‑子句‑词的多层级文本异构图，并输出整句特征表示；采用GAT网络训练多层级文本异构图，并提取多层级文本异构图中整句和子句的总特征表示；融合整句特征表示和总特征表示，将融合结果输入自注意力模块计算自注意力参数；将自注意力参数与融合结果相乘得到融合向量表示并输入分类模块，得到分类结果；本发明对整句进行拆分构造多层级异构图，利用图注意力网络学习多层级异构图的结构信息，与BERT得到的整句语义表示进行融合得到增强的文本语义表示并用于最后的分类，提升了文本的分类效果。

公开(公告)号：CN114547299A

公开(公告)日：2022-05-27

申请号：CN202210150471.5

申请日：2022-02-18

申请人： 重庆邮电大学

发明人： 李校林 ,  赵路伟 ,  伍晓思

IPC分类号： G06F16/35 ,  G06F40/284 ,  G06N3/04 ,  G06N3/08

摘要： 本发明属于自然语言处理领域，具体涉及一种基于复合网络模型的短文本情感分类方法及装置，方法包括获取文本数据集并进行处理；将处理后的文本数据集输入BERT模型得到词向量表示；将词向量表示分别送入TextCNN网络和BiGRU网络，得到第一特征向量和第二特征向量；拼接第一特征向量和第二特征向量得到拼接特征向量；将拼接特征向量送入改进自注意力模块得到分类特征向量，通过线性层得到分类结果，本发明将TextCNN和BiGRU网络并行结合，使模型能够充分结合TextCNN提取局部特征的能力和BiGRU关联上下文信息的能力，弥补了使用单一网络训练的不足，同时有效地避免二者之间产生消极的相互作用。

公开(公告)号：CN114443846A

公开(公告)日：2022-05-06

申请号：CN202210079337.0

申请日：2022-01-24

申请人： 重庆邮电大学

发明人： 李校林 ,  赵路伟 ,  伍晓思

IPC分类号： G06F16/35 ,  G06F16/31 ,  G06F40/205 ,  G06N3/04 ,  G06N3/08

摘要： 本发明属于人工智能的自然语言处理领域，具体涉及一种基于多层级文本异构图的分类方法、装置及电子设备，包括获取整句文本输入BERT模型构建整句‑子句‑词的多层级文本异构图，并输出整句特征表示；采用GAT网络训练多层级文本异构图，并提取多层级文本异构图中整句和子句的总特征表示；融合整句特征表示和总特征表示，将融合结果输入自注意力模块计算自注意力参数；将自注意力参数与融合结果相乘得到融合向量表示并输入分类模块，得到分类结果；本发明对整句进行拆分构造多层级异构图，利用图注意力网络学习多层级异构图的结构信息，与BERT得到的整句语义表示进行融合得到增强的文本语义表示并用于最后的分类，提升了文本的分类效果。