文档介绍：关于神经网络PPT
第一页，本课件共有42页
Contents
神经网络简介
1
神经网络的典型结构
2
神经网络的学****算法
3
BP神经网络
4
进化神经网络
5
神经网络的应用
页，本课件共有42页
神经网络的典型结构
按网络的结构区分
前向网络
反馈网络
按学****方式区分
有教师（监督）学****网络
无教师（监督）学****网络
按网络的性能区分
连续型和离散型网络
随机型和确定型网络
第十一页，本课件共有42页
神经网络的典型结构
按突触性质区分
一阶线性关联网络
高阶非线性关联网络
按对生物神经系统的层次模拟区分
神经元层次模型
组合式模型
网络层次模型
神经系统层次模型
智能型模型
通常，人们较多地考虑神经网络的互连结构。本节将按照神经网络连接模式，对神经网络的几种典型结构分别进行介绍
第十二页，本课件共有42页
单层感知器网络
单层感知器是最早使用的，也是最简单的神经网络结构，由一个或多个线性阈值单元组成
由于这种网络结构相对简单，因此能力也非常的有限，一般比较少用
单网
层络
感示
知意
器图
第十三页，本课件共有42页
前馈型网络
前馈型网络的信号由输入层到输出层单向传输
每层的神经元仅与其前一层的神经元相连，仅接受前一层传输来的信息
是一种最为广泛使用的神经网络模型，因为它本身的结构也不太复杂，学****和调整方案也比较容易操作，而且由于采用了多层的网络结构，其求解问题的能力也得到明显的加强，基本上可以满足使用要求
第十四页，本课件共有42页
前馈内层互联网络
这种网络结构从外部看还是一个前馈型的网络，但是内部有一些节点在层内互连
第十五页，本课件共有42页
反馈型网络
这种网络结构在输入输出之间还建立了另外一种关系，就是网络的输出层存在一个反馈回路到输入层作为输入层的一个输入，而网络本身还是前馈型的
这种神经网络的输入层不仅接受外界的输入信号，同时接受网络自身的输出信号。输出反馈信号可以是原始输出信号，也可以是经过转化的输出信号；可以是本时刻的输出信号，也可以是经过一定延迟的输出信号
此种网络经常用于系统控制、实时信号处理等需要根据系统当前状态进行调节的场合
第十六页，本课件共有42页
全互联网络
全互联网络是网络中所有的神经元之间都有相互间的连接
如Hopfiled和Boltgmann网络都是这种类型
全
互
联
网
络
第十七页，本课件共有42页
神经网络的学****算法
第十八页，本课件共有42页
学****方法
有监督学****br/>无监督学****br/>再励学****br/>在有监督的学****方式中，网络的输出和期望的输出（即教师信号）进行比较，然后根据两者之间的差异调整网络的权重，最终使差异变小。
在无监督的学****方式中，输入模式进入网络后，网络按照一预先设定的规则（如竞争规则）自动调整权重，使网络最终具有模式分类等功能。
再励学****是介于上述两者之间的一种学****方法
第十九页，本课件共有42页
学****规则
Hebb学****规则
这个规则是由Donald Hebb在1949年提出的
他的基本规则可以简单归纳为：如果处理单元从另一个处理单元接受到一个输入，并且如果两个单元都处于高度活动状态，这时两单元间的连接权重就要被加强
Hebb学****规则是一种没有指导的学****方法，它只根据神经元连接间的激活水平改变权重，因此这种方法又称为相关学****或并联学****br/>Delta（）学****规则
Delta规则是最常用的学****规则，其要点是改变单元间的连接权重来减小系统实际输出与应有的输出间的误差
这个规则也叫Widrow-Hoff学****规则，首先在Adaline模型中应用，也可称为最小均方差规则
BP网络的学****算法称为BP算法，是在Delta规则基础上发展起来的，可在多层网络上有效地学****br/>第二十页，本课件共有42页
学****规则
梯度下降学****规则
梯度下降学****规则的要点为在学****过程中，保持误差曲线的梯度下降
误差曲线可能会出现局部的最小值，在网络学****时，应尽可能摆脱误差的局部最小值，而达到真正的误差最小值
Kohonen学****规则
该规则是由Teuvo Kohonen在研究生物系统学****的基础上提出的，只用于没有指导下训练的网络
后向传播学****规则
后向传播（Back Propagation，BP）学****是目前应用最为广泛的神经网络学****规则
第二十一页，本课件共有42页
学****规则
概率式学****规则
从统计力学、分子热力