作为问答的多任务学习
Abstract:
用于作为问答的多任务学习的途径包括:输入层,用于编码语境和问题;基于自我注意的转换器,其包括编码器和解码器;第一双向长期短期记忆(biLSTM),用于进一步编码编码器的输出;长期短期记忆(LSTM),用于由解码器的输出和隐藏状态生成语境调整的隐藏状态;注意网络,用于基于第一biLSTM的输出和LSTM的输出生成第一注意权重;词汇层,用于在词汇上的分布;语境层,用于生成在语境上的分布;和切换器,用于生成在词汇上与在语境上的分布之间的加权,基于加权生成复合分布,和使用复合分布选择回答的词。
Public/Granted literature
Patent Agency Ranking
0/0