一种基于门控机制的多任务联合训练机器阅读理解方法
摘要:
本发明属于自然语言处理技术领域,具体涉及一种基于门控机制的多任务联合训练机器阅读理解方法。方法包括:文章与问题编码模块;交互模块;多级残差结构模块;答案预测模块。本发明通过门控机制对交互后的关联特征进行过滤,控制重要信息的流入和无用信息的流出,以把握信息的流动,从而准确的送入输出层对答案进行预测;通过引入残差结构的思想构建多级残差结构,将文章和问题交互后的表示融合原始语义信息,使语义信息更加丰富,对文章的理解更加充分,且避免了网络的退化;通过加入边缘损失函数进行多任务联合训练,保证分类任务和抽取任务的强耦合性,进一步学习正例和负例之间的特征差异。
0/0