BP训练算法实现步骤.doc

文档介绍：BP训练算法实现步骤
准备:训练数据组。设网络具有m层,表示第m层中第j个结点的输出,(零层输出)等于xj,即第j个输入。表示从到的连接加权。这里,m代表层号,而不是向量的类号。
将各加权随机置为小的随机数。可用均匀分布的随机数,以保证网络不被大的加权值所饱和。
从训练数据组中选一数据对(xk, Tk),将输入向量加到输入层(m=0),使得对所有端点i:
,k表示向量类号
信号通过网络向前传播,即利用关系式:
计算从第一层开始的各层内每个结点i的输出,直到输出层的每个结点的输出计算完为止。
计算输出层每个结点的误差值(利用公式(1))
(对Sigmod函数)
它是由实际输出和要求目标值之差获得。
计算前面各层各结点的误差值(利用公式(2))
这里逐层计算反传误差,直到将每层内每个结点的误差值算出为止。
利用加权修正公式
和关系
修正所有连接权。一般η= ~1,称为训练速率系数。
返回第2步,为下一个输入向量重复上述步骤,直至网络收敛。