文档介绍：维普资讯
苗振江等:扩堤双向联想记乙神经网络及其应用
扩展双向联想记忆神经网络及其应用∞
年月收到
硝槌竖垫鲫志里⋯
摘要’
提出一种采用规则作为学忆神经网络模曼,并从理论
上证明了其稳定性。该模型克服了现有采用规则作为学忆模式有正交性要求和所记模式吸引域小的不足。实验结果表明, 其联想记忆能
桃关键词:鍪神经釜网络,联想记坚堡模查式墨只型筹竹枷固碡,
一
、引言
联想记忆是神经网络理论的一个重要组成部分,也是神经网络用于智能控制、模式识别与人
工智能等领域的一个重要功能。目前,具有联想记忆功能的神经网络已有多种形式,如—模
型口、连续和离散的模型口、的离散、的连续和自适应模型、非
线性连续神经网络模型及多层感知器模型”等,最近,我们还提出了一种环式联想记忆神经网络
模型‘,但不同模型的联想记忆能力存在差异,如吸引域大小、记容量大小等。最典型的联想记
忆模型,即模型、模型和模型,它们的学忆模式具有正交性,此要求决定了采用此规则作为学习算法的网络有两个致命的弱点,即
吸引域小和记忆容量小,为克服目前联想记忆神经网络的这点不足,本文提出了一种联想记忆能
力较强的神经网络扩展双向联想记忆神经网络模型,并从理论上给出了这一新模型稳定性的证明。
实验结果也证明了此模型的稳定性. 同时也表明此模型的联想记忆能力优于其它目前已有的联想
记忆神经网络
二、扩展双向联想记忆神经网络的结构与算法
从结构上讲,本文提出的扩展双向
联想记忆模型,与的是一致层
精出层
的如图所示,不同之处在于它们的
学习算法。的算法采用了规
则, 而我们所提出模型的算法采用了
规则和算法,如其它规则适合的话.
也可采用其它规则如投影规则等,因
层
此可称之为一类扩展双向联想记忆神经精息】
网络。
圈扩展双向联想记忆神经嘲结模型
国豪自然科学基盎资助项目
维普资讯
高技术通讯.
规则只适用于连续的节点作用函数,如函数,在此模型的训练学习过程中,我们将
这两层网络看作两层前向网络,节点函数选择大值的函数,即
一一,
训练完成后,我们可得到前向的连接权矩阵,如果我们所训练的网络用于自联想,则两层
的神经元个数是一样的,只需用作为后向的连接权矩阵即可。如果网络用于异联想,不能直接
用作为后向连接权矩阵,还需进行后向的训练学习,得到与没有直接关系的连接权矩阵
这样,我们便完成了网络的学习与训练,在网络的运行过程中,我们不用函数作为网
络的节点作用函数,而是取如下函数:

一￡『≤
—一。一
除规则外,我们也可应用其它规则,如投影规则, 学习规则,使网络学习训
练,得到连接权矩阵。
应该说明的是,对自联想记忆,规则可完成任何情况下的学习训练,但对异联想,仅这两层
网络和规则有时是不够的,即有时它不能实现我们所需要的异联想记忆。对典型问题即异或问
题,此时的双向联想记忆网络需要由两层增加为三层,用算法进行正向和反向的训练学习,得
到连接权矩阵。
三、网络稳定性的证明
对反馈型神经网络来说,稳定性是一