文档介绍:1
摘要
神经网络是一门发展十分迅速的交叉学科, 它是由大量的处理单元组成非线 性的大规模自适应动力系统。 神经网络具有分布式存储、 并行处理、 高容错能力 以及良好的自学****自适应、联想等特点。 目前已经提出了多种训练算法和网络 analyze the causes of problems, from the two aspects respectively we can improve the BP training methods of neural network. Keywords: neural network, convergence spee,d local minimum , BP neural network improving methods
目录
1 神经网络概述 . 3
生物神经元模型 错误!未定义书签。
人工神经元模型 错误!未定义书签。
2 BP 神经网络 错误!未定义书签。
BP 神经网络特点 错误!未定义书签。
BP 神经网络介绍 错误!未定义书签。
3 BP 神经网络算法的改进 8
BP 神经网络训练过程介绍 8
动态调节学****率的改进方法 8
BP 神经网络收敛速度的改进方法 . 10
局部极小问题的几种改进方案 11
4 结束语 13
【参考文献】 . 14
2
生物神经元模型
人脑是由大量的神经细胞组合而成的,它们之间相互连接。每个神经细胞(也 称神经元)。
I 1—— M
生物神经元模型
由图看出,脑神经元由细胞体、树突和轴突构成。细胞体是神经元的中心, 它一般又由细胞核、细胞膜等构成。树突是神经元的主要接受器,它主要用来接 受信息。轴突的作用主要是传导信息,它将信息从轴突的起点传到轴突末梢, 轴 突末梢与另一个神经元的树突或细胞体构成一种突触的机构。 通过突触实现神经
元之间的信息传递。
人工神经元模型
人工神经网络是利用物理器件来模拟生物神经网络的某些结构和功能。图
。
3
这个模型是1943年心理学家McCulloch和科学家 元基本特性的基础上首先提出的 M-P模型,它是大多数神经网络模型的基础。
wji ---代表神经元i与神经元j之间的连接强度(模拟生物神经元之间突触
连接强度),称之为连接权;
Ui ---代表神经元i的活跃值,即神经元状态;
Vi---代表神经元j的输出,即是神经元i的一个输入;
----代表神经元的阐值。
函数f表达了神经元的输入输出特性。在 M-P模型中,f定义为阶跳函数
fl, Ui >0
Vi_f (Ui ) - 0,Ui _0
人工神经网络是一个并行与分布式的信息处理网络结构,该网络结构一般由
许多个神经元组成,每个神经元由一个单一的输出,它可以连接到许多其他的神 经元,其输出有多个连接通路,每个连接通路对应一个连接权系数。
严格来说,神经网络是一个具有如下性质的有向图
对于每个结点有一个状态变量x j ;
结点i到结点j有一个连接权系数w,;
对于每个结点有一个阈值巧