反向传播模型及其学习算法.docx

文档介绍：: .
反向传播模型及其学****算法
1反向传播模型及其网络结构?反向传播模型也称B-P模型，是一种用丁前向: .
反向传播模型及其学****算法
1反向传播模型及其网络结构?反向传播模型也称B-P模型，是一种用丁前向多层的反向传播学****算法。之所以称它是一种学****方法，是因为用它可以对组成前向多层网络的各人工神经元之间的连接权值进行不断的修改，从而使该前向多层网络能够将输入它的信息变换成所期望的输出信息。之所以将其称作为反向学****算法，是因为在修改各人工神经元的连接权值时，所依据的是该网络的实际输出与其期望的输出之差，将这一差值反向一层一层的向回传播，来决定连接权值的修改。
?B-P算法的网络结构是一个前向多层网络，如图所示。
图910B-P网络
2反向传播网络的学****算法B-P算法的学****目的是对网络的连接权值进行调整，使得调整后的网络对任一输入都能得到所期望的输出。
?学****过程由正向传播和反向传播组成。
?正向传播用丁对前向网络进行计算，即对某一输入信息，经过网络计算后求出它的输出结果。
?反向传播用丁逐层传递误差，修改神经元间的连接权值，以使网络对输入信息经过计算后所得到的输出能达到期望的误差要求。
B-P算法的学****过程如下：
(1) 选择一组训练样例，每一个样例由输入信息和期望的输出结果两部分组成。
(2) 从训练样例集中取一样例，把输入信息输入到网络中。
(3) 分别计算经神经元处理后的各层节点的输出。
(4) 计算网络的实际输出和期望输出的误差。
(5) 从输出层反向计算到第一个隐层，并按照某种能使误差向减小方向发展的原则，调整网络中各神经元的连接权值。
(6) 对训练样例集中的每一个样例重复(3)—(5)的步骤，直到对整个训练样例集的误差达到要求时为止。
B-P算法的优缺点：
优点：理论基础牢固，推导过程严谨，物理概念活晰，通用性好等。所以，它是目前用来训练前向多层网络较好的算法。
缺点：(1)该学****算法的收敛速度慢；(2)网络中隐节点个数的选取尚无理论上的指导；(3)从数学角度看，B-P算法是一种梯度最速下降法，这就可能出现局部极小的问题。当出现局部极小时，从表面上看，误