文档介绍：人工神经网络课程论文
阴雷鸣
2004级硕士(1)班(200420109196)
一、人工神经网络的发展与应用
人脑是产生自然智能的源泉,是真正出色的并行计算机。人工神经网络(Artificial works, 简称ANN)是在人类对其大脑神经网络认识理解的基础上人工构造的能够实现某种功能的神经网络,它是理论化的人脑神经网络的数学模型,是基于模仿大脑神经网络结构和功能而建立的一种非算法的信息处理系统。
人工神经网络吸取了生物神经网络的许多优点,因而有其固有的特点:
(1)、高度并行性:人工神经网络是由许多相同的简单处理单元并联组合而成,使其对信息的处理能力与效果惊人。
(2)、高度非线性全局作用:人工神经网络每个神经元接受大量其它神经元的输入,并通过并行网络产生输出,影响其它神经元。网络之间的这种相互制约和相互影响,,网络整体性能不是网络局部性能的简单迭加,而表现出某种集体性的行为。
(3)、良好的容错性与联想记忆功能:人工神经网络通过自身的网络结构能够实现对信息的记忆,而所记忆的信息是存储在神经元之间的权值中。从单个权值中看不出所存储的信息内容,因而是分布式的存储方式,这使得网络具有良好的容错性,既能进行模式信息处理工作, 有能进行模式联想等的模式信息处理工作,又能进行模式识别工作。
(4)、十分强的自适应、自学****功能:人工神经网络可以通过训练和学****来获得网络的权值与结构,呈现出很强的自学****能力和对环境的适应能力。
1、人工神经网络发展的回顾
一般认为,最早用数学模型对神经系统中的神经元进行理论建模的是美国心理学家麦卡洛克()和数学家皮茨()。他们于1943年建立了MP神经元模型。MP神经元模型首次简单的数学模型模仿出生物神经元活动功能,并揭示了通过神经元的相互连接和简单的数学计算,可以进行相当复杂的逻辑运算这一令人兴奋的事实1957年,美国计算机学家罗森布拉特()提出了著名的感知器(Perceptron)模型。它是一个具
有连续可调权值矢量的MP神经网络模型,经过训练可达到对一定输入矢量模式进行识别的目的。1959年,当时的另外两位美国工程师威德罗()和霍夫()提出了自适应线性元件(Adaptive linear element,简称Adaline)。它是感知器的变化形式,尤其在权失量的算法上进行了改进,提高了训练收敛速度和精度。他们从工程实际出发,不仅在计算机上模拟了这种神经网络,而且还做成了硬件,并将训练后的人工神经网络成功地用于的小通讯中的回波和噪声,成为第一个用于解决实际问题的人工神经网络。1969年,人工智能的创始人之一明斯基()和帕伯特()在合著的《感知器》一书中对以单层感知器为代表的简单人工神经网络的功能及局限性进行了深入分析。他们指出,单层感知器只能进行线性分类,对线性不可分的输入模式无能为力,而其解决的办法是设计出具有隐含层的多层神经网络,但是要找到一个有效修正权矢量的学****算法并不容易。这一结论使得当时许多神经网络研究者感到前途渺茫,客观上对神经网络理论的发展起了一定的消极作用。美国学者霍普菲尔德()对