神经网络——算法.ppt

文档介绍：神经网络——算法
第一页，课件共79页
反向传播网络
Back—Propagation Network，由于其权值的调整采用反向传播（Backpropagation）的学****算法，因此被称为BP网络。
第二页，课件共79页
BP网络

是一种单向传播的多层前向网络
其神经元的变换函数是S型函数，因此输出量为0到1之间的连续量
它可以对非线性可微分函数进行权值训练，从而实现输入到输出的任意的非线性映射。
第三页，课件共79页
网络中心思想是梯度下降法
通过梯度搜索技术，使网络实际输出值与期望输出值的误差均方值最小。
第四页，课件共79页
网络的学****过程是一种误差边向后传播边修正权系数的过程
第五页，课件共79页
BP网络结构
BP神经网络模型结构
输入层
隐层
输出层
输 入
输 出
第六页，课件共79页
BP网络是一种多层前向神经网络
一般分三层：输入层，隐层，输出层，也可以有2层或更多个隐层。
层与层之间采用全互联方式，同一层单元之间不存在相互连接。
第七页，课件共79页
1）输入层单元无转换函数，直接接收信号传给下一层，所以有些书不认为输入层是一个网络层。
2）在一般情况下，均是在隐含层采用 S 型激活函数，而输出层采用线性激活函数。
……
……
……
x1
x2
xn
y1
yp
只有当希望对网络的输出进行限制，如限制在0和1之间，那么则在输出层包含 S 型激活函数
第八页，课件共79页
BP网络特点
是多层网络，包括输入层、隐层和输出层
层与层之间采用全互连方式，同一层神经元之间不连接
权值通过学****算法进行调节
神经元激发函数为S函数
层与层的连接是单向的，信息传播是双向的
第九页，课件共79页
感知机网络利用输出误差只能修改最后一层的权值
而BP网络实现了多层学****每一层的权值均可训练学****修改。
第十页，课件共79页