文档介绍：神经网络介绍
何水明
大学数学部
联系电话：**********
Email：ddhsm163
办公地点：数理学院楼214
主要参考书目
1、Philip D. Wasserman， Neural Computing神经网络概念
神经网络:泛指生物神经网络与人工神经网络。
生物神经网络:指由中枢神经系统及周围神经系统所构成的错综复杂的神经网络，它负责对动物机体各种活动的管理，其中最重要的是脑神经系统。
人工神经网络：指模拟人脑神经系统的结构和功能，运用大量的处理部件，由人工方式建立起来的网络系统。
一、脑神经系统与生物神经元
脑神经系统:神经系统是由结构上相对独立的神经细胞构成的。据估计，人脑神经系统的神经细胞约为1011个。
生物神经元
生物神经元组成：神经细胞称之为生物神经元。神经元主要由三个部分组成：细胞体、轴突、树突。
生物神经元组成
神经元之间的联系:
轴突及突触与其它许多神经元建立联系。
树突接收来自不同神经元的信息。
神经元之间的这种复杂联系就形成了相应的神经网络。
神经元重要特性：
动态极化原则
时空整合处理功能
兴奋与抑制工作状态
结构的可塑性
突触界面具有脉冲与电位信号的转换功能
突触对信息的传递具有时延和不应期
脑神经信息活动的特征
(1)巨量并行性。
(2)信息处理和存储单元结合在一起。
(3)自组织自学****功能。
二、人工神经元及其互连结构
人工神经网络是由大量处理单元 (人工神经元、处理元件、电子元件、光电元件等) 经广泛互连而组成的人工网络，用来模拟脑神经系统的结构和功能。
信息的处理是由神经元之间的相互作用来实现。
知识与信息的存储表现为网络元件互连间分布式的物理联系。
网络的学****和识别取决于各神经元连接权值的动态演化过程。
1、人工神经元
人工神经元是组***工神经网络的基本处理单元，简称为神经元。
心理学家麦克洛奇(W．McCulloch)和数理逻辑学家皮兹()于1943年首先提出了一个简化的神经元模型，称为M-P模型 。
M－P模型：
神经网络的基本处理单元是神经元，为实现神经网络的计算功能，需分别给出神经元的计算模型和网络连接方式。
M－P模型：
其中 表示输入， 表示输出,对应于生物神经元的轴突。
。权值 表示输入的连接强度。正权表示兴奋输入，负权表示抑制输入。 表示神经元兴奋时的阈值，当加权和大于 时，神经元处于兴奋状态。
M-P 模型对抑制性输入(负权)赋于了“否决权”，只有当不存在抑制性输入，且兴奋性输入的总和超过阈值，神经元才会兴奋，其输入与输出的关系如表所示。
M-P模型输入输出关系表
在M-P模型基础上发展起来的常用神经网络模型如图所示：
神经元的结构模型
x(i=1，2，…，n) 为该神经元的输入
Wi 为该神经元分别与各输入间的连接强度，称为连接权值；
θ为该神经元的阈值，
s 为外部输入的控制信号，它可以用来调整神经元的连接权值，使神经元保持在某一状态；
y 为神经元的输出。
神经元的工作过程一般是：
(1) 从各输入端接收输入信号xi；
(2) 根据连接权值wi，求出所有输入的加权和σ ：
(3) 用某一特性函数 ( 又称作用函数) f 进行转换，得到输出y：
2、神经元的互连形态
人工神经网络是由神经元广泛互连构成的，不同的连接方式就构成了网络的不同连接模型，常用的有以下几种：
前向网络
从输出层到输入层有反馈的网络
层内有互连的网络
互连网络
(1) 前向网络：前向网络又称为前馈网络。在这种网络中，神经元分层排列，分别组成输入层、中间层和输出层。每一层神经元只接收来自前一层神经元的输入。输入信息经各层变换后，最终在输出层输出，如图所示。
（2）从输出层到输入层有反馈的网络。这种网络与上一种网络的区别仅仅在于，输出层上的某些输出信息又作为输入信息送入到输入层的神经元上。
图2 从输出层到输入层有反馈的网络
(3) 层内有互连的网络。同一层上的神经元可以互相作用。
图3 层内有互连的网络
（4）互连网络。在这种网络中，任意两个神经元之间都可以有连接，如图4所示。在该网络中，信息可以在神经元之间反复往返地传递，网络一直处在一种改变状态的动态变化之中。
图4 互连网络
三、 人工神经网络的特征及分类
1、人工神经网络有以下主要特征：
能较好地模拟人的形象思维。
具有大规