文档介绍：第2章 神经网络
Contents
神经网络简介
1
神经网络的典型结构
2
神经网络的学****算法
3
BP神经网络
4
进化神经网络
5
神经网络的应用
6
.
2
神经网络简介
什么是神经网络？
神经网络（Neural Network，NN）一般也称为人工神经网络（Artificial Neural Network，ANN），是科学家们在对生物的神经元、神经系统等生理学的研究取得了突破性进展以及对人脑的结构、组成和基本工作单元有了进一步认识的基础上，通过借助数学和物理的方法从信息处理的角度对人脑神经网络进行抽象后建立的简化模型。
.
3
基本原理
生物神经元基本结构示意图
.
4
基本原理
树突
细胞体
轴突
突触
生物神经元
人工神经元
类比关系
输入层
加权和
阈值函数
输出层
.
5
基本原理
模拟神经元的树突接收输入信号
输入层
加权和
阈值函数
输出层
模拟神经元的细胞体加工和处理信号
模拟神经元的轴突
控制信号的输出
模拟神经元的突触
对结果进行输出
人工神经元结构功能示意图
.
6
研究进展
1943年McCullonch和Pritts提出了M-P模型，该模型提出了神经元的数学描述和网络的结构方法，这标志着神经网络计算时代的开始。
1957年Rosenblatt定义一个称为感知器的神经网络结构，第一次把神经网络从纯理论的探讨推向了工程实现，掀起了神经网络研究的高潮。
Minsky和Papert在1969年发表论著《Perceptrons》指出感知器仅能解决一阶谓词逻辑，只能完成线性划分，对于非线性或者其他分类会遇到很多困难，就连简单的 XOR（异或）问题都解决不了。由此，神经网络的研究进入了反思期。
启蒙萌芽时期
1940s至1960s
低潮反思时期
1960s至1970s
.
7
研究进展
20世纪90年代中后期，神经网络研究进入了一个新的发展阶段，一方面已有理论在不断地深化和得到进一步推广，另一方面，新的理论和方法也在不断出现。
光学神经网络、混沌神经网络、模糊神经网络、进化神经网络等新模型陆续出现。
1982年Hopfield提出的全连接网络模型才使得人们对神经网络有了重新的认识,开辟了一条新的研究道路。1986年Rumelhart等人提出的反向传播算法，使Hopfield模型和多层前馈神经网络成为应用最广泛的神经网络模型之一。
复兴发展时期
1980s至1990s
新的发展时期
1990s中后期之后
.
8
研究进展
重要学术期刊
IEEE Transactions on Neural Networks
IEEE Transactions on Systems, Man and Cybernetics
Journal of Artificial Neural Networks
Journal of Neural Systems
Neural Networks
Neural Computation
Networks Computation in Neural Systems
Machine Learning……
.
9
研究进展
重要学术会议
International Joint Conference on Neural Networks
IEEE International Conference on Systems, Man, and Cybernetics
World Congress on Computational Intelligence
.
10