公开(公告)号：CN108090559A

公开(公告)日：2018-05-29

申请号：CN201810004120.7

申请日：2018-01-03

Applicant: 华南理工大学

Inventor： 马千里 ,  沈礼锋 ,  庄万青

IPC: G06N3/04 ,  G06N3/08 ,  G06N3/12

Abstract: 本发明公开了一种对偶储备池神经网络模型的构建方法，该方法构建一种适用于时间序列预测领域的解耦对抗性能的对偶储备池网络，该网络可分离储备池计算模型中原本具有对抗性的两种性能--非线性映射能力及短期记忆能力。传统的储备池计算模型基于单个储备池网络，如回声状态网络及液体状态机，虽然能应用到动态系统模型中，但这种计算模型需要对非线性映射能力及短期记忆能力进行权衡。本发明构建的对偶储备池网络，将回声状态网络中的隐藏层设置为两个对偶的储备池，通过非监督编码器主成分分析实现储备池内部信息的压缩传输。对偶储备池网络实现了对非线性映射能力及短期记忆能力的分离与增强并在混沌时间序列预测中取得非常好的效果。

公开(公告)号：CN109919188A

公开(公告)日：2019-06-21

申请号：CN201910084929.X

申请日：2019-01-29

Applicant: 华南理工大学

Inventor： 马千里 ,  庄万青 ,  郑镇境

IPC: G06K9/62

Abstract: 本发明公开了一种基于稀疏局部注意力机制和卷积回声状态网络的时序分类方法，步骤如下：获取时间序列原数据集，并进行预处理；按照给定的参数生成储备池，将预处理后的数据输入储备池中获得回声状态；对回声状态进行稀疏局部注意力关注，每个时刻的回声状态关注当前时刻之前大小为S的时间窗口中的K个回声状态，S和K作为超参数；将完成稀疏局部注意力关注的回声状态输入单层多尺度卷积神经网络中获得分类结果。在回声状态上应用稀疏局部注意力机制能有效地捕捉局部信息，同时避免全局注意力机制计算量大的问题。在回声状态上应用卷积操作能提取出具有判别性的多尺度特征。