文档介绍：神经网络应用
现在学****的是第1页，共90页
神经网络基本知识
人工神经网络模型
图 7-1 基本神经元模型
现在学****的是第2页，共90页
神经元的输出可描述为
式中：f(Ai)表示神经元输入—学****的是第16页，共90页
一般选用下列S形作用函数：
且处理单元的输入、 输出值可连续变化。
BP网络模型实现了多层网络学****的设想。当给定网络的一个输入模式时，它由输入层单元传到隐层单元，经隐层单元逐层处理后再送到输出层单元，由输出层单元处理后产生一个输出模式， 故称为前向传播。如果输出响应与期望输出模式有误差，且不满足要求，那么就转入误差后向传播，即将误差值沿连接通路逐层向后传送，并修正各层连接权值。
(7-10)
现在学****的是第17页，共90页
二、 学****算法
假设BP网络每层有N个处理单元，作用函数如(7-10)式所示，训练集包含M个样本模式对(xk, yk)。对第p个训练样本(p=1, 2, …,M)单元j的输入总和(即激活函数)记为apj，输出记为Opj, 它的第i个输入(也即第i个神经元的输出)为Opi, 则
现在学****的是第18页，共90页
如果任意设置网络初始权值，那么对每个输入模式p, 网络输出与期望输出一般总有误差。定义网络误差为
式中，dpj表示对第p个输入模式输出单元j的期望输出。δ学****规则的实质是利用梯度最速下降法，使权值沿误差函数的负梯度方向改变。 若权值Wji的变化量记为ΔWji, 则
现在学****的是第19页，共90页
而
这里，令
于是
这就是通常所说的δ学****规则。
现在学****的是第20页，共90页
当Opj表示输出层单元的输出时，其误差
现在学****的是第21页，共90页
当Opj表示隐单元输出时，其误差
现在学****的是第22页，共90页
故
至此，BP算法权值修正公式可统一表示为
对于输出单元
对于隐单元
(9-29)
现在学****的是第23页，共90页
在实际应用中，考虑到学****过程的收敛性，通常为了使学****因子η取值足够大，又不致于产生振荡，在权值修正公式(7-29)中再加一个势态项， 得
式中，α是常数，称势态因子，它决定上一次学****权值对本次权值更新的影响程度。
一般地， BP网络学****算法步骤描述如下：
(1) 初始化网络及学****参数，如设置网络初始矩阵、学****因子η、 参数α等；
(2) 提供训练样本，训练网络，直到满足要求；
(3) 前向传播过程：对给定训练模式输入，计算网络的输出模式， 并与期望模式输出比较，若有误差，则执行(4)，否则，返回(2)；
现在学****的是第24页，共90页
(4) 后向传播过程：
① 计算同一层单元的误差δpj。
② 修正权值和阈值
阈值即为i=0时的连接权值。
③ 返回(2)。
用网络的均方根值(RMS)误差来定量反映学****性能。其定义为
现在学****的是第25页，共90页
三、 竞争网络
1. 竞争学****网络结构
图 7-7 两层竞争网络
现在学****的是第26页，共90页
2. 竞争学****机理
竞争单元的处理分为两步：首先计算每个单元输入的加权和； 然后进行竞争， 产生输出。对于第j个竞争单元，其输入总和为
当竞争层所有单元的输入总和计算完毕，便开始竞争。竞争层中具有最高输入总和的单元被定为胜者，其输出状态为1，其它各单元输出状态为0。对于某一输入模式，当获胜单元确定后，便更新权值。也只有获胜单元权值才增加一个量，使得再次遇到该输入模式时，该单元有更大的输入总和。 权值更新规则表示为
现在学****的是第27页，共90页
反 馈 网 络
Hopfield网络结构
图 7-8 HNN网络结构
现在学****的是第28页，共90页
Hopfield神经网络A/D变换器
图 7-9 对称式4位A/D转换网络
现在学****的是第29页，共90页
图 7-10 迟滞现象
现在学****的是第30页，共90页
图 7-11 非对称HNN网A/D变换器
现在学****的是第31页，共90页
图 7-12 采用非对称结构的A/D转换关系
现在学****的是第32页，共90页
神经网络在智能传感器中的应用
纸浆浓度传感器非线性估计和动态标定的神经网络实现
一、问题提出
实际上， 传感器在整个测量范围的非线性特性可用一幂级数多项式来描述：
式中： y——被测浓度；
x——传感器输出值；
Wi(i=0, 1, …, n)——传感