文档介绍：1第3讲人工神经网络欧阳柳波 2 /65 人工神经网络的进展?初创阶段(二十世纪四十年代至六十年代) : ?1943 年,美国心理学家 W. S. Mcculloch 和数理逻辑学家和数理逻辑学家 W. Pitts 提出了神经元的数学模型,即 MP ( Mcculloch-Pitts )模型?以数学逻辑为研究手段,探讨了客观事件在神经网络的形式问题?1960 年,威德罗和霍夫率先把神经网络用于自动控制研究。?过渡阶段(二十世纪六十年代初至七十年代) ? M. Minsky 和 S. Papert 于1969 年出版《 Perceptron Perceptron 》?从理论上证明了以单层感知机为代表的网络系统在某些能力方面的局限性。?60年代末期至 80年代中期,神经网络控制与神经网络进入低潮 3 /65 人工神经网络的进展(续) ?高潮阶段(二十世纪八十年代) ?1982 和1984 年,美国加州理工学院的生物物理学 J. J. Hopfield 在美国科学院院刊发表的两篇文章,有力地推动了人工神经网络的研究与应用,并引发了研究神经网络的一次热潮。?80年代后期以来,随着人工神经网络研究的复苏和发展,对神经网络控制的研究也十分活跃。研究进展主要在神经网络自适应控制和模糊神经网络控制及其在机器人控制中的应用上。?平稳发展阶段(二十世纪九十年代以后) ?和相关学科交叉融合 4 /65 ANN 人工神经网络?概述?基本原理?前向型神经网络?自组织竞争神经网络?神经网络的应用?与人工智能原理的结合? BP 神经网络 5 /65 概述?什么叫人工神经网络?采用物理可实现的系统来模仿人脑神经细胞的结构和功能的系统。?为什么要研究神经网络?用计算机代替人的脑力劳动。?计算机速度为纳秒级,人脑细胞反应时间是毫秒级。而计算机不如人。?长期以来人类的梦想,机器既能超越人的计算能力, 又有类似于人的识别、分析、联想等能力。 6 /65 概述?人工智能与神经网络?共同之处:研究怎样使用计算机来模仿人脑工作过程,学****实践——再学****再实践。?不同之处: ?人工智能研究人脑的推理、学****思考、规划等思维活动,解决需人类专家才能处理的复杂问题。?神经网络企图阐明人脑结构及其功能,以及一些相关学****联想记忆的基本规则(联想、概括、并行搜索、学****和灵活性) 7 /65 ?例如: ?人工智能专家系统是制造一个专家,几十年难以培养的专家。神经网络是制造一个婴儿,一个幼儿,一个可以学****不断完善,从一些自然知识中汲取智慧的生命成长过程。?同样是模仿人脑,但所考虑的角度不同。?成年人和婴儿?学****过程不一样 8 /65 概述人工智能神经网络研究目的人脑推理、学****思考、规划等思维活动,解决需人类专家才能处理的复杂问题。阐明有关人脑结构及其功能以及相关学****联想记忆的基本规律。研究内容推理方法、知识表示、机器学****生物的生理机制、信息的存储、传递、处理方式知识表示方法人懂→机器懂→人懂图像等→机器→图像等知识储存方式知识库中有事实和规则,随时添加而增大,一条出了毛病有可能出错。在网的结构之中,一条出问题不会触大错,网络结构不会随知识增加变化很大信息传递方式符号脉冲形式,以频率表示信息处理方式树、网等,一条一条执行,并行处理较难原理上是并行结构,与生物信息处理机制一致 9 /65 ANN 人工神经网络?概述?基本原理?前向型神经网络?自组织竞争神经网络?神经网络的应用?与人工智能原理的结合? BP 神经网络 10 /65 基本原理