神经网络——bp算法 ppt课件.ppt

文档介绍：第7章 典型神经网络--BP
反向传播网络
Back—work,由于其权值的调整采用反向传播(Backpropagation)的学****算法,因此被称为BP网络。
BP网络

是一种单向传播的多层前向网络
其神经元的变换函数是S型函数,因此输出量为0到1之间的连续量
它可以对非线性可微分函数进行权值训练,从而实现输入到输出的任意的非线性映射。
网络中心思想是梯度下降法
通过梯度搜索技术,使网络实际输出值与期望输出值的误差均方值最小。
网络的学****过程是一种误差边向后传播边修正权系数的过程
BP网络结构
BP神经网络模型结构
输入层
隐层
输出层
输入
输出
BP网络是一种多层前向神经网络
一般分三层:输入层,隐层,输出层,也可以有2层或更多个隐层。
层与层之间采用全互联方式,同一层单元之间不存在相互连接。
1)输入层单元无转换函数,直接接收信号传给下一层,所以有些书不认为输入层是一个网络层。
2)在一般情况下,均是在隐含层采用 S 型激活函数,而输出层采用线性激活函数。
……
……
……
x1
x2
xn
y1
yp
只有当希望对网络的输出进行限制,如限制在0和1之间,那么则在输出层包含 S 型激活函数
BP网络特点
是多层网络,包括输入层、隐层和输出层
层与层之间采用全互连方式,同一层神经元之间不连接
权值通过学****算法进行调节
神经元激发函数为S函数
层与层的连接是单向的,信息传播是双向的
感知机网络利用输出误差只能修改最后一层的权值
而BP网络实现了多层学****每一层的权值均可训练学****修改。