一种基于异质特征跨域关联的多模态识别方法及系统

    公开(公告)号:CN118395182A

    公开(公告)日:2024-07-26

    申请号:CN202410502843.5

    申请日:2024-04-25

    Abstract: 本发明提供一种基于异质特征跨域关联的多模态识别方法及系统,方法包括以下步骤:获取原始数据,构建多模态数据集,并进行预处理;基于预处理后的多模态数据集,构建异质特征跨域关联模型,并基于异质特征跨域关联模型对预处理后的多模态数据集进行多模态情感识别,获得跨模态特征;基于三层堆叠的注意力机制、全连接层以及归一化指数函数,构建标签模态解码模块,并基于交叉熵损失、最终跨模态特征以及模态标签,训练标签模态解码模块;基于训练好的标签模态解码模块,对跨模态特征进行分类,获得多标签情感预测标签,完成基于异质特征跨域关联的多模态识别。本发明在识别精度、任务适应性和抗噪鲁棒性上有较好的表现,具有一定的有效性。

Patent Agency Ranking