递归神经网络 BP神经网络属于哪种神经网络类型
一、循环神经网络和递归神经网络的区别
其实一般都叫递归神经网络,只是recurrent是时间递归(常用),而recursive是指结构递归神经网络
二、回声状态网络的用途
递归神经网络(RecurrentNeuralNetworks,RNNs)的训练是通过权值直接优化来实现的,这种方式容易产生两个问题:收敛速度慢和易陷入局部最优。回声状态网络(echostatenetwork,ESN)由Jaeger于2001年提出,在模型构建与学习算法方面较传统的递归神经网络有较大差别,其相应的学习算法为递归神经网络的研究开启了新纪元。
回声状态网络又称储备池计算,采用由随机稀疏连接的神经元组成的储备池作为隐层,用以输入进行高维、非线性的表示。ESN将神经网络的隐层权值预先生成而非训练生成,与隐层至输出层的权值训练分开进行,其基本思想的前提是生成的储备池具有某种良好的属性,往往能够保证仅采用线性方法训练储备池至输出层的权值即可获得优良的性能。
三、深度神经网络按照构建方式可分为哪两类
深度神经网络按照构建方式可分为循环神经网络和结构递归神经网络。
递归神经网络实际上包含了两种神经网络。一种是循环神经网络(RecurrentNeuralNetwork);另一种是结构递归神经网络(RecursiveNeuralNetwork),它使用相似的网络结构递归形成更加复杂的深度网络。