文档介绍：BP神经网络
一簇蓝色精灵的小确幸
CHENYING0907
BP神经网络
两个
阶段
正向传播阶段：逐层状态更新
反向传播阶段：误差
设：某层任一神经元j的
输入为netj，输出为yj；
BP神经网络
一簇蓝色精灵的小确幸
CHENYING0907
BP神经网络
两个
阶段
正向传播阶段：逐层状态更新
反向传播阶段：误差
设：某层任一神经元j的
输入为netj，输出为yj；
相邻低一层中任一
神经元i的输出为yi。
j
i
wij：神经元i与j之间的连接权；
f(∙)：神经元的输出函数。
BP神经网络
S型输出函数：
θj：神经元阈值；
h0：修改输出函数形状的参数。
设：输出层中第k个神经元的实际输出为yk，输入为netk；
与输出层相邻的隐层中任一神经元j的输出为yj。
BP神经网络
BP算法实质是求取误差函数的最小值问题。这种算法采用非线性规划中的最速下降方法，按误差函数的负梯度方向修改权系数。
对输入模式Xp，若输出层中第k个神经元的期望输出为
dpk，实际输出为ypk。输出层的输出方差 ：
BP神经网络
若输入N个模式，网络的系统均方差为：
当输入Xp时，wjk的修正增量：
其中，
由 式得到：
BP神经网络
令 ， 可得
输出单元的误差：
输出单元的修正增量：
对于与输出层相邻的隐层中的神经元j 和该隐层前低一层
中的神经元i ：
输出层中神经元输出的误差反向传播到前面各层，对各
层之间的权值进行修正。
感谢聆听!