文档介绍：. 神经网络?神经网络是一种黑箱建模工具?不要求建立实际系统的辨识格式, 即可省去系统结构建模这一步骤; ?可以对本质非线性系统进行辨识; ?辨识的收敛速度不依赖于待辨识系统的维数, 只于神经网络本身及其所采用的学****算法有关;?神经网络的连接权值在辨识中对应于模型参数, 通过权值的调节可使网络输出逼近于系统输出;?神经网络作为实际系统的辨识模型, 实际上也是系统的一个物理实现, 可以用于在线控制;?解决复杂的非线性、不确定、未知系统的控制问题?神经网络主要应用领域有: 模式识别与图象处理( 语音、指纹、故障检测和图象压缩等)、控制与优化、系统辨识、预测与管理(市场预测、风险分析) 、通信等。?应用 1 基于神经网络的系统辨识?①将神经网络作为被辨识系统的模型,可在已知常规模型结构的情况下,估计模型的参数。?②利用神经网络的线性、非线性特性,可建立线性、非线性系统的静态、动态、逆动态及预测模型,实现非线性系统的建模。?(2) 神经网络控制器神经网络作为实时控制系统的控制器,对不确定、不确知系统及扰动进行有效的控制, 使控制系统达到所要求的动态、静态特性。?(3) 神经网络与其他算法相结合将神经网络与专家系统、模糊逻辑、遗传算法等相结合,可设计新型智能控制系统。?(4) 优化计算在常规的控制系统中, 常遇到求解约束优化问题, 神经网络为这类问题的解决提供了有效的途径。? Hop f ield 神经网络模型, 由非线性元件构成的全连接型单层反馈系统, 每一个神经元都将自己的输出通过连接权传送给所有其它神经元, 同时又都接收所有其它神经元传递过来的信息。反馈型网络的一个重要特点就是它具有稳定状态, 当网络达到稳定状态的时候,也就是它的能量函数达到最小的时候。 Hopfield 神经网络的能量函数表征网络状态的变化趋势, 并可以依据 Hopfield 工作运行规则不断进行状态变化, 最终能够达到的某个极小值的目标函数。网络收敛就是指能量函数达到极小值。把一个最优化问题的目标函数转换成网络的能量函数, 把问题的变量对应于网络的状态,那么 Hopfield 神经网络就能够用于解决优化组合问题。?解决了著名的旅行推销商问题( TSP 问题) ,另外,它在智能控制和系统辨识中也有广泛应用。. ? iR iC iI iu iVi jR jC jI ju jVj 1R 1C 1I 1u 1V1 ......... . . ... .. .. ijw ?径向基函数(RBF-Radial Basis Function) : 具有单隐层的三层前馈网络, 一种局部逼近网络, ?(1) RBF 网络的作用函数为高斯函数,是局部的, BP 网络的作用函数为 S 函数,是全局的;权值调整:梯度下降法?(2) 如何确定 RBF 网络隐层节点的中心及基宽度参数是一个困难的问题; ?(3) 已证明 RBF 网络具有唯一最佳逼近的特性,且无局部极小[1] 。?由于采用梯度下降法调节网络的权值,无法保证控制系统的稳定性和收敛性。(k) (k-1) ( ( 1) ( 2)) j j j j j w w w w k w k ?? ??????. ? BP ( Back Propagation )网络: 单向传播的多层前向网络。采用梯度搜索技术, 以期使网络的实际输出值与期望输出值的误差均方值为最小。权值通过δ学****算法进行调节;神经元激发函数为 S 函数; ??? BP 网络的优点为: ?(1 )只要有足够多的隐层和隐层节点, BP 网络可以逼近任意的非线性映射关系; ?(2 ) BP 网络的学****算法属于全局逼近算法,具有较强的泛化能力。?(3 ) BP 网络输入输出之间的关联信息分布地存储在网络的连接权中, 个别神经元的损坏只对输入输出关系有较小的影响,因而 BP 网络具有较好的容错性。? BP 网络的主要缺点为: ?(1 )待寻优的参数多,收敛速度慢; ?(2 ) 目标函数存在多个极值点, 按梯度下降法进行学****很容易陷入局部极小值; ?(3 )难以确定隐层及隐层节点的数目。目前,如何根据特定的问题来确定具体的网络结构尚无很好的方法,仍需根据经验来试凑。?由于 BP 网络具有很好的逼近特性和泛化能力,在模式识别、图像处理、系统辨识、函数拟合、优化计算、最优预测和自适应控制等, 可用于神经网络控制器的设计。但由于 BP 网络收敛速度慢,难以适应实时控制的要求。? BP 算法的改进误差函数的可调整参数的个数 n w 等于各层权值数加上阈值数,即: )1()1(??????mlnmn w 误差 E 是n w +1 维空间中一个形状极为复杂的曲面,该曲面上的每个点的“高度”对应于一个误差值,每个点的坐标向量对应着 n w