文档介绍：(BackPropagation)lelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。BP网络能学****和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。它的学****规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。BP神经网络模型拓扑结构包括输入层(input)、隐层(hidelayer)和输出层(outputlayer)()。(节点),它只模仿了生物神经元所具有的三个最基本也是最重要的功能:加权、求和与转移。其中x1、x2…xi…xn分别代表来自神经元1、2…i…n的输入;wj1、wj2…wji…wjn则分别表示神经元1、2…i…n与第j个神经元的连接强度,即权值;bj为阈值;f(·)为传递函数;yj为第j个神经元的输出。肇蚃芃第j个神经元的净输入值为:蒁螈羃                ()***肄罿膃螁肇芇蒅蚃蚁薀蒁其中:    莆袆螈若视,,即令及包括及,则莃荿***  蒆芇肄于是节点j的净输入可表示为:螁莂膃                    ()蒆蒄螁   净输入通过传递函数(TransferFunction)f(·)后,便得到第j个神经元的输出:薃膁芇          ()薆袅蒅式中f(·)是单调上升函数,而且必须是有界函数,因为细胞传递的信号不可能无限增加,必有一最大值。(正向传播)和误差信号的反向传播两个过程构成。正向传播时,传播方向为输入层→隐层→输出层,每层神经元的状态只影响下一层神经元。若在输出层得不到期望的输出,则转向误差信号的反向传播流程。通过这两个过程的交替进行,在权向量空间执行误差函数梯度下降策略,动态迭代搜索一组权向量,使网络误差函数达到最小值,从而完成信息提取和记忆过程。,隐层有q个节点,输出层有m个节点,输入层与隐层之间的权值为,隐层与输出层之间的权值为,。隐层的传递函数为f1(·),输出层的传递函数为f2(·),则隐层节点的输出为(将阈值写入求和项中):蒄蚁莃        k=1,2,……q             ()袆螃艿输出层节点的输出为:袂蒀莆      j=1,2,……m             ()羆膄肃至此B-P网络就完成了n维空间向量对m维空间的近似映射。)    定义误差函数肂节蒆输入个学****样本,用来表示。第个样本输入到网络后得到输出(j=1,2,…m)。采用平方型误差函数,于是得到第p个样本的误差Ep:荿羆蒄                    ()螄肁蒃式中:为期望输出。葿莇肁对于个样本,全局误差为:膂螀薆               ()蕿薄袅2)输出层权值的变化羄蕿羀采用累计误差BP算法调整,使全局误差变小,即虿羅袀          ()莁薂蚆式中:—学****率蝿莅芆定义误差信号为:肃莀蚂                 ()蝿螆蚈其中第一项:薁腿螆         ()衿蒇蚆   第二项:袆薂膀                        ()薂袇蚁是输出层传递函数的偏微分。莄薄袆于是:蚂芈螃                   ()肆莃袂由链定理得: