bp神经网络(BP神经网络属于DNN吗)
一、bp神经网络缩写
bp神经网络是BackPropagation的缩写。
1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。
BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。
二、bp神经网络基本原理
BP(BackPropagation)神经网络是一种按误差反向传播算法训练的多层前馈网络,其基本原理包括两个过程:
-工作信号正向传递子过程:从输入层开始,根据上层所有节点的输出值、当前节点与上一层所有节点的权值和当前节点的偏置还有激活函数来计算每个节点的输出值,一直计算到输出层。
-误差信号反向传递子过程:基于Widrow-Hoff学习规则,通过沿着相对误差平方和的最速下降方向,连续调整网络的权值和偏置,使网络的误差平方和最小。
BP神经网络能学习和存贮大量的输入-输出模式映射关系,无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。
三、bp神经网络和卷积神经网络的区别
一、计算方法不同
1、BP神经网络:是一种按照误差逆向传播算法训练的多层前馈神经网络。
3、卷积神经网络:包含卷积计算且具有深度结构的前馈神经网络。
二、用途不同
1、BP神经网络:
(1)函数逼近:用输入向量和相应的输出向量训练一个网络逼近一个函数;
(2)模式识别:用一个待定的输出向量将它与输入向量联系起来;
(3)分类:把输入向量所定义的合适方式进行分类;
(4)数据压缩:减少输出向量维数以便于传输或存储。
3、卷积神经网络:可应用于图像识别、物体识别等计算机视觉、自然语言处理、物理学和遥感科学等领域。
联系:
BP神经网络和卷积神经网络都属于前馈神经网络,三者都属于人工神经网络。因此,三者原理和结构相同。
三、作用不同
1、BP神经网络:具有很强的非线性映射能力和柔性的网络结构。网络的中间层数、各层的神经元个数可根据具体情况任意设定,并且随着结构的差异其性能也有所不同。
2、卷积神经网络:具有表征学习能力,能够按其阶层结构对输入信息进行平移不变分类。