基于优化BERT模型的多模态深度特征抽取方法及系统
摘要:
本发明属于多模态数据特征抽取技术领域,公开了一种基于优化BERT模型的多模态深度特征抽取方法及系统,数据处理阶段,多模态数据特征选取,以及数据的预处理工作;BERT模型优化阶段,对原始BERT模型中的多头自注意力机制和前向传播层进行优化;特征融合阶段;结果输出阶段。本发明能够进行深层次的特征抽取,使用层次化多头注意力机制实现对特征的层次抽取,使用自定义的门机制结构替换BERT模型中的中间层,实现对信息的过滤,最后通过基于自注意力机制的张量融合模型进行多模态特征的融合,最后实现一种对多态情感信息准确分类的模型,本发明提高了BERT的特征抽取能力,具有的多模态特征抽取能力更强。
0/0