文档介绍：附录A
神经网络

人脑存储的信息是分布式地存储在脑细胞之间的关联上,而不是保存在脑细胞的内部。脑细胞通过它们之间的作用关系(如激励和抑制)来存储。人工模拟这种映射关系的系统称为(人工)神经网络(ANN)。神经网络是一个具有高度非线性的超大规模连续时间动力系统,是由大量的处理单元(神经元)广泛互连而形成的网络。它是在现代神经科学研究成果的基础上提出的,反映了脑功能的基本特征。但它并不是人脑的真实描写,而只是它的某种抽象、简化与模拟。
网络的信息处理由神经元之间的相互作用来实现,知识与信息的存储表现为网络元件互连间分布式的物理联系,网络的学****和计算决定于各神经元连接权系的动态演化过程。其中,神经元构成了网络的基本运算单元,每个神经元具有自己的阂值,每个神经元的输入信号是所有与其相连的神经元的输出信号和加权后的和。而输出信号是其净输入信号的非线性函数。如果输入信号的加权集合高于其闲值,该神经元便被激活而输出相应的值。在人工神经网络中所存储的是单元之间连接的加权值阵列。
神经网络的工作过程主要由两个阶段组成:一个阶段是工作期。此时各连接权值固定,计算单元的状态变化,以求达到稳定状态。另一阶段是学****期(自适应期,或设计期)。此时各计算单元状态不变,各连接权值可修改(通过学****样本或其他方法)。前一阶段较快,各单元的状态亦称短期记忆(S TM)。后一阶段慢的多,权及连接方式亦称长期记(L TM)。
目前神经网络的结构有近百种之多,算法更无法记数。根据网络特性,神经网络大致可以分为静态和动态两类。静态网络当前的输出仅仅反映当前输入数据的处理结果。动态网络是有记忆能力的网络,记忆能力可以是由于神经元传递函数是微分或差分方程导致的;也可以是由于网络的输出或网络内部的状态反馈到网络的输入端产生的。下面对于一些常见于控制系统中的网络结构和算法作简要的介绍。

神经网络是由大量简单神经元相互连接构成的复杂网络。图2-1是一个典型的单层神经网络模型,它具有R维输入,S个神经元。p为RXI维的输入矢量,网络层由权值矩阵W(SxR)、闭值矢量b(Sxl)、求和单元。和传递函数运算单元f组成,S个神经元的输出组成了Sxl维的神经网络输出矢量a。
其中,输入层网络权值矩阵W和阀值矢量b的具体形式如下:
在单层神经网络的基础上可以构造多层神经网络。一个典型的三层神经网络模型

神经网络的类型多种多样,它们是从不同角度对生物神经系统不同层次的抽象和模拟【18】。一般来说,当神经元的模型确定之后,一个神经网络的特性及其功能主要取决于网络的拓扑结构及学****方法。按网络拓扑结构主要可分为前馈型和反馈型两种「19,13」。
馈型网络。各神经元接受前一层的输入,并输出给下一层, 没有反馈,结点
分为两类,即输入单元和计算单元,每一计算单元可有多个输入,但只有一个输出(它可藕合到任意多个其他结点作为其输入)。通常前馈网络可分为不同的层,第i层的输入只与第i一1层输出相连,输入和输出结点与外界相连,而其他中间层则称为隐层。
馈型网络。所有结点都是计算单元,同时也可接受输入,并向外界输出,可
画成一个无向图,如图2-4(a),其中每个连接弧都是双向的,也可画成如图2-4(b)的形式。若总单元数为n,则每一个结点有n-1个输入和一个输出。
神经网络的工作过程主要分为两个阶段:第一个阶段是学****期,此时各计算单元状态不变,各连接上的权值可通过学****来修改;第二阶段是工作期,此时各连接权固定,计算单元状态变化,以达到某种稳定状
从作用效果看,前馈网络主要是函数映射,可用于模式识别和函数逼近。反馈网络按对能量函数的极小点的利用来分类有两种:第一类是能量函数的所有极小点都起作用,这一类主要用作各种联想存储器;第二类只利用全局极小点,它主要用于求解最优化问题。

:神经网络是本质的非线性系统、具有高度并行的结构、某些网络可以硬件实现、具有学****和自适应性、可以同时处理定性的和定量的数据、多变量系统等特点。神经网络在控制系统中无论是作为控制器还是作为实际系统的辩识模型,都是以神经网络的函数逼近能力为基础的。有两种基本的神经网络的应用方式:正模型(辩识)和逆模型(控制器)
正模型法通过训练使一个神经网络逼近一个系统的正向模型,以模型和实际系统输出的差值作为网络训练的误差信号来修正网络权值。假设系统的模型训练可以一直采用实际系统的数据y以保证训练的稳定性,或者在一定的训练步数后采用神经网络以前的输出作为网络输入来避免有噪声的数据对辩