-
公开(公告)号：CN108090559A
公开(公告)日：2018-05-29
申请号：CN201810004120.7
申请日：2018-01-03
Applicant: 华南理工大学
Abstract: 本发明公开了一种对偶储备池神经网络模型的构建方法，该方法构建一种适用于时间序列预测领域的解耦对抗性能的对偶储备池网络，该网络可分离储备池计算模型中原本具有对抗性的两种性能--非线性映射能力及短期记忆能力。传统的储备池计算模型基于单个储备池网络，如回声状态网络及液体状态机，虽然能应用到动态系统模型中，但这种计算模型需要对非线性映射能力及短期记忆能力进行权衡。本发明构建的对偶储备池网络，将回声状态网络中的隐藏层设置为两个对偶的储备池，通过非监督编码器主成分分析实现储备池内部信息的压缩传输。对偶储备池网络实现了对非线性映射能力及短期记忆能力的分离与增强并在混沌时间序列预测中取得非常好的效果。
-
Patent Agency Ranking
公开(公告)号：CN108090558A
公开(公告)日：2018-05-29
申请号：CN201810004118.X
申请日：2018-01-03
Applicant: 华南理工大学
Abstract: 本发明公开了一种基于长短期记忆网络的时间序列缺失值自动填补方法，包括以下步骤：获取没有缺失值的原数据集，并进行预处理；按照给定的缺失率随机删除某些值构成含有不同缺失率的缺失数据集；根据深度残差网络与图结构依赖的思想，引入基于图依赖的残差连接到LSTM模型，形成RSU，同时将LSTM模型的每一时刻的隐藏状态和RSU的历史状态信息进行融合与传递；训练构建的新模型，在网络训练前向传播过程中根据数据是否缺失利用RSU的值进行填补。RSU整合了先前的残差和隐藏的状态信息，使得构建的模型能够关联足够多的关于缺失数据历史信息，同时实现了对含缺失值的时序数据可端到端含缺失值训练的过程。
-
公开(公告)号：CN108229662A
公开(公告)日：2018-06-29
申请号：CN201810004128.3
申请日：2018-01-03
Applicant: 华南理工大学
IPC: G06N3/04
Abstract: 本发明公开了一种基于两阶段学习的多模态时间序列建模方法，用于说话人识别和语音识别，该方法在第一阶段忽略多模态时间序列数据在时间维度上的依赖性，提取每个时间步上每个模态的静态特征分布，通过多模态的融合学习技术获得各个时刻上特征的联合分布；在第二阶段通过一个递归神经网络对第一阶段获得的静态特征分布进行时序依赖建模，通过递归网络的梯度反传将静态特征分布转化为相关联的动态特征分布。由于无需估计整个时间序列的联合分布，该方法显著减少第一阶段的训练成本，结果显示更高层次的抽象特征比低层次能更有效学习到时序依赖信息，并且模型在Big Bang Theory和AVLetters数据集上取得了当前最好的成果。
-
公开(公告)号：CN108229661A
公开(公告)日：2018-06-29
申请号：CN201810004116.0
申请日：2018-01-03
Applicant: 华南理工大学
IPC: G06N3/04
Abstract: 本发明公开了一种基于多次编码重投影的深度回声状态网络模型构建方法，该网络模型通过交替地使用无监督编码技术和储备池高维投影技术实现对带有多尺度结构特性的时间序列进行高效建模。当一个输入时间序列被投影到储备池的高维回声状态空间中时，编码层能够将高维回声状态表示信息编码到一个低维的空间，随后将其作为输入投影到下一个储备池，反复循环。通过在层次化框架中交替使用投影层和编码层，基于编码重投影的深度回声状态网络不仅能够充分利用传统回声状态网络中的时序核特性去探索时间序列的多尺度动态特征，还能在混沌系统的时间序列预测中表现出更优的性能，并保留了传统储备池计算架构中学习高效的特点。
-
公开(公告)号：CN108090558B
公开(公告)日：2021-06-08
申请号：CN201810004118.X
申请日：2018-01-03
Applicant: 华南理工大学
Abstract: 本发明公开了一种基于长短期记忆网络的时间序列缺失值自动填补方法，包括以下步骤：获取没有缺失值的原数据集，并进行预处理；按照给定的缺失率随机删除某些值构成含有不同缺失率的缺失数据集；根据深度残差网络与图结构依赖的思想，引入基于图依赖的残差连接到LSTM模型，形成RSU，同时将LSTM模型的每一时刻的隐藏状态和RSU的历史状态信息进行融合与传递；训练构建的新模型，在网络训练前向传播过程中根据数据是否缺失利用RSU的值进行填补。RSU整合了先前的残差和隐藏的状态信息，使得构建的模型能够关联足够多的关于缺失数据历史信息，同时实现了对含缺失值的时序数据可端到端含缺失值训练的过程。
-
公开(公告)号：CN108197653A
公开(公告)日：2018-06-22
申请号：CN201810004157.X
申请日：2018-01-03
Applicant: 华南理工大学
Abstract: 本发明公开了一种基于卷积回声状态网络的时间序列分类方法，回声状态网络具有时序核及回声状态性质，前者是指回声状态网络将输入的信号映射到储备池的高维空间中，而后者是指该网络对于短期的历史信息具有记忆的能力。在卷积神经网络中，多尺度卷积层可提取回声状态网络中的多尺度特征并且通过时间方向上的最大池化可维持多尺度的时序不变性。本发明将回声状态网络及卷积神经网络结合在一起，提出卷积回声状态网络模型，该模型将回声状态网络输出的状态表示信息进行多尺度卷积及时间方向上的最大池化等操作，实现回声状态网络及卷积神经网络的优势互补，在保持回声状态网络学习模式的高效性的同时，也发挥了卷积神经网络在特征提取方面的优势。
-
-
-
-
-
Search Results
6
records
(took 0.018 seconds)
