用于神经网络的梯度方向数据分割的方法和计算机系统
摘要:
系统和方法通过分割训练数据来改善已经收敛的网络的性能,使得网络的梯度和所有偏导数为零(或接近零),使得在分割的训练数据的每个子集上,一些节点或弧(即节点和网络的先前层或后续层之间的连接)具有在分割的数据子集上不同于零的单独偏导数值,尽管它们在整个训练数据集上的偏导数平均值接近零。本系统和方法可以通过分割从零发散的候选节点或弧来创建新的网络,并且然后利用在相应的数据集群上训练的每一个选择的节点来训练结果网络。
公开/授权文献
0/0