文档介绍：神经网络控制
第1页，本讲稿共39页
概述
人工神经元模型
人工神经网络模型
神经网络的学****方法
第2页，本讲稿共39页
2
39页
14
4．竞争式学****br/>竞争式学****属于无教师学****方式。此种学****方式利用不同层间的神经元发生兴奋性联接，以及同一层内距离很近的神经元间发生同样的兴奋性联接，而距离较远的神经元产生抑制性联接。在这种联接机制中引人竟争机制的学****方式称为竟争式学****它的本质在于神经网络中高层次的神经元对低层次神经元的输入模式进行竞争识别。
第15页，本讲稿共39页
15
前向神经网络
感知器网络
感知器（perceptrvon）是一个具有单层神经元的神经网络，并由线性阈值元件组成，是最简单的前向网络。它主要用于模式分类，单层的感知器网络结构如下图所示。
第16页，本讲稿共39页
16
第17页，本讲稿共39页
17
感知器的一种学****算法：
随机地给定一组连接权
输入一组样本和期望的输出（亦称之为教师信号）
计算感知器实际输出
修正权值
选取另外一组样本，重复上述2）～4）的过程，直到权值对一切样本均稳定不变为止，学****过程结束。
第18页，本讲稿共39页
18
BP网络
误差反向传播神经网络，简称BP网络（Back Propagation），是一种单向传播的多层前向网络。在模式识别、图像处理、系统辨识、函数拟合、优化计算、最优预测和自适应控制等领域有着较为广泛的应用。如图是BP网络的示意图。
第19页，本讲稿共39页
19
第20页，本讲稿共39页
20
误差反向传播的BP算法简称BP算法，其基本思想是最小二乘算法。它采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值为最小。
BP算法的学****过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐含层逐层处理，并传向输出层，每层神经元（节点）的状态只影响下一层神经元的状态。如果在输出层不能得到期望的输出，则转人反向传播，将误差信号沿原来的连接通路返回，通过修改各层神经元的权值，使误差信号最小。
第21页，本讲稿共39页
21
1．BP网络的前馈计算
2．BP网络权值的调整规则
1). 输出层权系数的调整
2). 隐含层节点权系数的调整
3．BP学****算法的计算步骤
第22页，本讲稿共39页
22
3．BP学****算法的计算步骤
1). 初始化 置所有权值为较小的随机数
2). 提供训练集
3). 计算实际输出，计算隐含层、输出层各神经元输出
4). 计算目标值与实际输出的偏差E
5). 计算
6). 计算
7). 返回“2）”重复计算，直到误差满足要求为止
第23页，本讲稿共39页
23
第24页，本讲稿共39页
24
在使用BP算法时，应注意的几个问题是：
1). 学****开始时，各隐含层连接权系数的初值应以设置较小的随机数较为适宜。
2). 采用S型激发函数时，由于输出层各神经元的输出只能趋于1或0，不能达到1或0。在设置各训练样本时，期望的输出分量dpk不能设置为1或0，以设置为或0，1较为适宜。
3). 学****速率η的选择，在学****开始阶段，η选较大的值可以加快学****速度。学****接近优化区时，η值必须相当小，否则权系数将产生振荡而不收敛。平滑因子α的选值在左右。
第25页，本讲稿共39页
25
BP网络学****算法的改进
1．多层前向BP网络的优点：
1). 网络实质上实现了一个从输入到输出的映射功能，而数学理论已证明它具有实现任何复杂非线性映射的功能。这使得它特别适合于求解内部机制复杂的问题；
2). 网络能通过学****带正确答案的实例集自动提取“合理的”求解规则，即具有自学****能力；
第26页，本讲稿共39页
26
2．多层前向BP网络的问题：
1). BP算法的学****速度很慢
2). 网络训练失败的可能性较大
3). 难以解决应用问题的实例规模和网络规模间的矛盾
4). 网络结构的选择尚无一种统一而完整的理论指导，一般只能由经验选定
5). 新加入的样本要影响已学****成功的网络，而且刻画每个输入样本的特征的数目也必须相同
6). 网络的预测能力（也称泛化能力、推广能力）与训练能力（也称逼近能力、学****能力）的矛盾
第27页，本讲稿共39页
27
3．BP网络学****算法的改进
1). 增加“惯