文档介绍：第06讲反向传播网络
给定任意8 >0和任意L2函数f :[0,1] n u R% Rm ,存在一个三层BP网络，可以在
任意8平方误差精度内逼近 f。
实现任意N个输入向量构成的任何布尔函数的前向网络所需权系数数目为：
1 log2 N
我们前面讲到的感知器神经网络和线性神经元网络均为单层网络结构， 其传递函数都十
分简单，感知器为单边符号函数，线性神经网络为纯线性函数。在此， 我们将上面网络结构
进行推广，推广到多层网络，并且将传递函数变为非线性可微分函数，这就是 BP网络。
反向传播网络（Back — Propagation Network ,简称BP网络）是将 W—H学****规则一般化， 对非线性可微分函数进行权值训练的多层网络。
由于感知器神经网络中神经元的变换函数采用符号函数， 其输出为二值量，因此它主要
用于模式分类。BP网络是一种多层前向反馈神经网络，其神经元的变换函数是 S型函数，
因此输出量为0到1之间的连续量，它可以实现从输入到输出的任意的非线性映射。 由于其
权值的调整采用反向传播（Backpropagation）的学****算法，因此被称为 BP网络。
BP网络主要用于：
1） 函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近一个函数；
2） 模式识别：用一个特定的输出矢量将它与输入矢量联系起来；
3） 分类：把输入矢量以所定义的合适方式进行分类；
4） 数据压缩：减少输出矢量维数以便于传输或存储。
在人工神经网络的实际应用中， 80%〜90%的人工神经网络模型是采用 BP网络或它的
变化形式，它也是前向网络的核心部分， 体现了人工神经网络最精华的部分。 在人们掌握反
向传播网络的设计之前，感知器和自适应线性元件都只能适用于对单层网络模型的训练， 只
是后来才得到了进一步拓展。
6. 1 BP网络模型与结构
一个具有r个输入和一个隐含层的神经网络模型结构如图 6. 1所示。
slxr
q s2xsl ―w
slxl
―Al
F2 —
s2xq
s2xl
i = L 2 …，sl; k = L 2 …』s2 ；
图6. 1具有一个隐含层的神经网络模型结构图
感知器和自适应线性元件的主要差别在激活函数上：前者是二值型的，后者是线性的。 BP网络具有一层或多层隐含层，除了在多层网络上与前面已介绍过的模型有不同外，其主 要差别也表现在激活函数上。 BP网络的激活函数必须是处处可微的，所以它就不能采用二
值型的阀值函数（0 , 1｝或符号函数｛ — 1 , 1｝ , BP网络经常使用的是 S型的对数或正切激活 函数和线性函数。
图6. 2所示的是S型激活函数的图形。可以看到 f （ •）是一个连续可微的函数，其一 阶导数存在。对于多层网络，这种激活函数所划分的区域不再是线性划分， 而是由一个非线
性的超平面组成的区域。它是比较柔和、光滑的任意界面，因而它的分类比线性划分精确、 合理，这种网络的容错性较好。另外一个重要的特点是由于激活函数是连续可微的， 它可以
严格利用梯度法进行推算，它的权值修正的解析式十分明确， 其算法被称为误差反向传播法，
也简称BP算法，这种网络也称为 BP网络。
图6. 2 BP网络S型激活函数
因为S型函数具有非线性放大系数功能，它可以把输入从负无穷大到正无穷大的信号，
变换成-1到l之间输出，对较大的输入信号，放大系数较小；而对较小的输入信号，放大系
数则较大，所以采用 S型激活函数可以去处理和逼近非线性的输入 /输出关系。不过，如果
在输出层采用 S型函数，输出则被限制到一个很小的范围了，若采用线性激活函数，则可
使网络输出任何值。 所以只有当希望对网络的输出进行限制， 如限制在0和1之间，那么在
输出层应当包含 S型激活函数，在一般情况下，均是在隐含层采用 S型激活函数，而输出
层采用线性激活函数。
BP网络的特点：
1、 输入和输出是并行的模拟量；
2、 网络的输入输出关系是各层连接的权因子决定，没有固定的算法；
3、 权因子是通过学****信号调节的，这样学****越多，网络越聪明；
4、 隐含层越多，网络输出精度越高，且个别权因子的损坏不会对网络输出产生大的影 响。
6. 2 BP学****规则
BP网络的产生归功于 BP算法的获得。BP算法属于a算法，是一种监督式的学****算法。
其主要思想为：对于 q个输入学****样本：P1, P2,……Pq,已知与其对应的输出样本为： T1,
T2,……Tq。学****的目的是用网络的实际输出 A1, A2,……Aq,与目标矢量T1, T2 ,……Tq,
之间的误差来修改其权值，使 A1, (l= l, 2…，q)与期望的T1尽可能地接近；即：使