文档介绍：第五章智能模型—人工神经网络Artificial work
-P模型,开创了神经科学研究的时代。
1958年Rosenblatt[1]的感知器(Perceptron)是最早的神经网络模型。
1959年Widdrow和Hiff开发了一种叫自适应线性单元(ADALINE)的网络模型,成为第一个用于实际问题的神经网络。掀起了神经网络的第一次高潮。
1969年,Minsky和Papert出版“Perseptron”一书中,证明了感知器不能实现复杂逻辑的判断功能使得神经网络的研究一度趋于低潮。
1982年,加州技术学院的物理学家John ,他所提出的Hopfield网络,有意义的是它的网络很容易用集成电路来实现,在1984年、1986年Hopfield连续发表了有关他的网络应用的文章,他的文章得到了重视和理解。掀起了各学科关心神经网络的一个热潮。
人工神经网络的处理单元及结构
人工神经网络(ANN),又称为“神经网”(),是源于人工智能的一种计算机工具。
人工神经元是神经网络的基本处理单元(缩写为PE),也可以称其为节点。如下图就是简化的神经元结构。
人工神经元
它是一多输入、单输出的非线性元件,其输入、输出关系可描述为:
其中xi(j=1,2,…,n)是从其它细胞传来的输入信号,θj为阈值,wji表示从神经元j到神经元i的连接权值,f()称为传递函数。
人工神经网络
输入层隐含层隐含层输出层
非线性函数是Sigmoid函数
训练和学习阶段—通过不断调节节点之间的相互连接权重,直至特定的输入产生特定的输出。最为广泛的为反向传播算法(BP法);
回响阶段—向人工神经元网络输入一系列已在训练阶段使用过的输入模式,调整系统使之更可靠、更健壮:
预测阶段—向神经网络输入新的模式,希望系统能进行正常工作。
为运行人工神经网络,必须经过三个阶段:
. 人工神经网络模型及BP算法
BP法是一种深入的数值方法,有许多不同的方法来进行反向传播教会人工神经网络如何作出反应。基本上,几乎所有的BP法都要进行以下步骤:
(1)送入一特定的输入,测定其实际输出。
(2)将实际输出与期望输出值进行比较,根据输入—输出分析计算定量差。
(3)通过反复调整节点间的连接权重,使误差(或均方根误差)达到最小。
(a)由输出节点开始,调整其权重。
(b)“反向”传播至与输出层相邻的一层,计算那一层的误差并调整其权重。
(c)继续这一反向传播过程(由网络的输出端向输入端)直至计算无误差,并且所有权重均被调整为止。