文档介绍：反馈神经网络
第1页，共41页，编辑于2022年，星期五
根据神经网络运行过程中的信息流向，可分为前馈式和反馈式两种基本类型。前馈网络的输出仅由当前输入和权矩阵决定，而与网络先前的输出状态无关。
美国加州理工学院物函数
第11页，共41页，编辑于2022年，星期五
对于DHNN 网，若按异步方式调整网络状态，且连接权矩阵W 为对称阵，则对于任意初态，网络都最终收敛到一个吸引子。
：
定义网络的能量函数为：
()
令网络的能量改变量为ΔE，状态改变量为ΔX，有
()
()
第12页，共41页，编辑于2022年，星期五
将式()、()代入()，则网络能量可进一步展开为
()
将代入上式，并考虑到W为对称矩阵，有
第13页，共41页，编辑于2022年，星期五
()
上式中可能出现的情况：
情况a ：xj(t)=-1, xj(t+1)=1, 由式()得Δxj(t)=2, 由式()知，netj(t)≧0，代入式()，得ΔE(t)≦0。
情况b ：xj(t)=1, xj(t+1)=-1, 所以Δxj(t)=-2, 由式()知，netj(t)<0，代入式()，得ΔE(t)<0。
情况c ：xj(t)=xj(t+1), 所以Δxj(t)=0, 代入式()，从而有ΔE(t)=0。
由此可知在任何情况下均有ΔE(t)≦0 。
简化：
第14页，共41页，编辑于2022年，星期五
由于网络中各节点的状态只能取1 或 –1 ，能量函数E(t) 作为网络状态的函数是有下界的，因此网络能量函数最终将收敛于一个常数，此时ΔE(t)=0 。分2种情况：
综上所述，，网络最终将收敛到一个吸引子。
对于DHNN网，若按同步方式调整状态，且连接权矩阵W为非负定对称阵，则对于任意初态，网络都最终收敛到一个吸引子。
情况a ：xj(t)=xj(t+1)=1或xj(t)=xj(t+1)=-1, 神经元j状态不变，网络稳定，即为吸引子。
情况b ：xj(t)=-1, xj(t+1)=1, netj(t)=0，xj=1固定。
第15页，共41页，编辑于2022年，星期五
证明：由式()得
前已证明，对于任何神经元 j ，有
因此上式第一项不大于0，只要W为非负定阵，第二项也不大于0，于是有⊿E(t)≦0 ，也就是说E(t)最终将收敛到一个常数值，对应的稳定状态是网络的一个吸引子。
第16页，共41页，编辑于2022年，星期五
以上分析表明，在网络从初态向稳态演变的过程中，网络的能量始终向减小的方向演变，当能量最终稳定于一个常数时，该常数对应于网络能量的极小状态，称该极小状态为网络的能量井，能量井对应于网络的吸引子。
第17页，共41页，编辑于2022年，星期五
性质1 ：若X 是网络的一个吸引子，且阈值T=0，在sgn(0)处，xj(t+1)=xj(t)，则－X 也一定是该网络的吸引子。
证明：∵X 是吸引子，即X= f (WX)，从而有
f [W(－X)]=f [－WX]=－f [WX]= －X
　 ∴－X 也是该网络的吸引子。
三、吸引子的性质
第18页，共41页，编辑于2022年，星期五
性质2：若Xa是网络的一个吸引子，则与Xa的海明距离dH(Xa，Xb)=1的Xb一定不是吸引子。
证明：不妨设x1a≠x1b，xja= xjb，j=2,3,…,n。
∵ w11=0，由吸引子定义，有
由假设条件知，x1a≠x1b，故
∴Xb 不是该网络的吸引子。
第19页，共41页，编辑于2022年，星期五
性质3：若一组向量Xp (p=1,2,…,P)是网络的吸引子，且在sgn(0)处，xj(t+1)=xj(t)，则由
该组向量线性组合而成的向量
也是吸引子。
请各位同学自己证明。
第20页，共41页，编辑于2022年，星期五
能使网络稳定在同一吸引子的所有初态的集合，称为该吸引子的吸引域。
若Xa是吸引子，对于异步方式，若存在一个调整次序，使网络可以从状态X 演变到Xa ，则称 X 弱吸引到Xa；若对于任意调整次序，网络都可以从状态X 演变到Xa，则称X强吸引到Xa。
若对某些X，有X弱吸引到吸