文档介绍：后向传播分类
什么是后向传播?
后向传播是一种神经网络学****算法
神经网络的定义
神经网络是一组连接的输入/输出单元,其中每个连接都与一个权相相联。在学****阶段,通过调整神经网络的权,使得能够预测输入样本的正确类标号来学****由于单元间的连接,神经网络学****又称为连接者学****br/>多向前馈神经网络
定义网络拓扑
对输入值规格化,
离散值属性可重新编码,是的每个阈值一个输入单元
一个输出单元可以用来表示两个类,如果多于两个类,每个类使用一个输出单元
后向传播
后向传播
初始化权
网络的权初始化为很小的随机数,每个单元有个偏置,偏置也类似地初始化为小随机数
向前传播输入
计算隐藏层和输出层每个单元的净输入和输出:
训练样本提供给网络的输入层;
隐藏层和输出层的每个单元的净输入用其输入的线性组合计算
后向传播
给出隐藏层和输出层的单元j,到单元j的净输入Ij为
隐藏层和输出层的每个单元取其净输入,然后将赋活函数作用于它,该函数用符号表现单元代表的神经元活性,使用logistic或simoid函数。给定单元J的净输入Ij,则单元j的输出Oj用下式计算:

该函数又称挤压函数,即将一个较大的输入值域映射到较小的区间0到1
后向传播误差
通过更新权和反映网络预测误差的偏置,向后传播误差。对于输出层单元j,误差Errj用下式计算:
隐藏层单元j的误差是:
更新权和偏差,以反映传播的误差,权由下式更新:
2018/11/30
7
后向传播误差
2018/11/30
8
后向传播误差