文档介绍：BP神经网络
BP网络是由一个输入层,一个或多个隐层以及一个输出层组成,上下层之间实现全连接,而每层神经元之间无连接。
网络的学****过程包括正向传播和反向传播。
在正向传播进程中,输入信息从输入层经隐层加权处理传向输出层,经功能函数运算后得到的输出值与期望值进行比较,若有误差,则误差反向传播,沿原先的连接通道返回,通过逐层修改各层的权重系数,减小误差。随着这种误差逆向传播修正的不断进行,网络对输入模式响应的正确率也不断上升。
三层BP神经网络的网络结构
输入、输出层的设计
输入的神经元可以根据需要求解的问题和数据表示方式确定。在故障诊断中,输入层神经元个数一般等于每个样本中包含的特征值的个数。
输出层的维数可根据设计者的要求确定,在故障诊断中,一般将BP网络用作分类器,如类别模式一共有m个,则输出层神经元的个数为m。
隐层的设计
隐层的神经元个数选择是一个较为复杂的问题,往往需要设计者多次试验来确定,因而不存在一个理想的解析式来表示。
隐层单元的个数与问题的要求、输入/输出单元的数目都有着直接关系。隐层单元个数太多会导致学****时间过长、误差不一定最佳,也会导致容错性差、不能识别以前没有见到的样本等问题,因此一定存在一个最佳的隐层单元数。
以下三个公式可作为选择最佳隐层单元数时的参考公式:
,其中是输入层神经元数, 是隐层神经元数。
,其中,m是输出神经元数,n是输入神经元数,a是[l,10]之间的常数。
,其中n是输入神经元数。
学****速率
学****速率决定每一次循环训练中所产生的权值变化量。大的学****速率可能导致系统的不稳定,但小的学****速率将会导致训练较长,收敛速度很慢,不过能保证网络的误差值不跳出误差表面的低谷而最终趋于最小误差值。
所以在一般情况下。倾向于选取较小的学****率以保证系统的稳定性。~。
期望误差的选取
在设计网络的训练过程中,期望误差值也应当通过对比训练后确定一个合适的值,这个所谓的“合适”,是相对于所需要的隐含层的节点数来确定,因为较小的期望误差值是要靠增加隐含层的节点,以及训练时间来获得的。
例子
首先提取出有效特征值,并进行归一化处理。
设计BP神经网络,确定其各个参数。
建立神经网络并对其进行训练。
对模式进行识别。
特征值
训练样本: