文档介绍：安徽大学
硕士学位论文
Hopfield神经网络构造的联想记忆存储器实现与研究
姓名:夏松
申请学位级别:硕士
专业:计算机软件与理论
指导教师:周爱武
2010-04
摘要
Hopfield 神经网络,又称联想记忆网络。论文根据 Hopfield 神经网络知
识和 Eclipse 插件知识构造一个联想存储器。该存储器可以从不完整的或模糊的
信息联想出存储在记忆中的某个完整清晰的信息。联想记忆是该存储器的主要功
能,可以用于中英文或者数字符号等各类信息的联想记忆。论文主要用到
Hopfield 神经网络知识、Eclipse 插件机制相关知识、XML 相关知识。最终搭建
了可嵌入到 eclipse 开发工具或者其他 java 插件系统中一个知识库可拓展的联
想记忆器,实现根据残缺不全的信息联想到和其最相似的完整信息的功能,阐述
了 Hopfield 神经网络在联想记忆中的应用前景和发展方向。
论文在对 Hopfield 神经网络机制和原理深入学习的基础上,对 Hopfield 神
经网络相关的知识进行了详实的介绍和比较,从而掌握了 Hopfield 神经网络的
核心思想和设计方法。在深入学习 Hopfield 神经网络算法如何解决 TSP 等 NP-
完全问题后,提出了改进的 Hopfield 神经网络算法并将其运用于实践,论文针
对 Hopfield 神经网络算法实际运用中遇到的问题,从实际出发,对 Hopfield 神
经网络算法进行了改进。给出了改进的 Hopfield 神经网络算法的适用条件是在
Hopfield 神经网络的存储的记忆模式大于或远远大于其完美检索的存储容量
n
M = 。克服了 Hopfield 神经网络算法如下的局限性:Hopfield 神经网
max 2ln n
络算法存储容量不太理想问题、Hopfield 神经网络算法相互关联性不足、所记
忆的模式不能太接近和有时候 Hopfield 神经网络算法回想出的模式不是存储记
忆模式中任何一个模式,而是落入一个“伪状态”。然后以改进的 Hopfield 神经
网络算法为核心设计和实际了 Hopfield 联想存储器。该存储器可以从不完整的
或模糊的信息联想出存储在记忆中的某个完整清晰的信息。
改进的 Hopfield 神经网络算法在以下方面进行了改进和提高:首先针对
Hopfield 神经网络算法存储容量不太理想问题,即神经网络可以存储的基本记
忆的最大数量。改进的 Hopfield 神经网络算法通过将大容量分割成小的存储容
量,来解决问题。其次针对 Hopfield 神经网络算法相互关联性不足,改进的
Hopfield 神经网络算法将迭代次数引入系统中,根据如果噪声模式和稳定的样
本模式越是相近迭代的次数越是少,得以联想到一连串相关的记忆。再次针对所
I
记忆的模式不能太接近。由于联想记忆本质上是一类约束最优化问题,因而存在
陷入非正常局部极小值点的可能性。改进的 Hopfield 神经网络算法通过将存储
记忆的模式分成块,进行联想记忆,避免了所记忆的模式不能太接近问题。最后
针对有时候 Hopfield 神经网络算法回想出的模式不是存储记忆模式中任何一个
模式,而是落入一个“伪状态”。改进的 Hopfield 神经网络算法通过对引入的迭
代次数进行控制。当迭代次数大于某个指定值时认为系统不收敛,跳出循环,进
行下一步联想记忆步骤。
论文的主要工作有:
1) 回顾 Hopfield 神经网络的相关历史和发展情况,介绍 Hopfield 神经
网络的理论创新和实际应用,阐述 Hopfield 神经网络在人工智能领
域的地位和影响。
2) 详细分析 Hopfield 神经网络理论知识,包括连续型 Hopfield 网络
(Discrete work,DHN)的定义和相关知识、Hopfield
网络稳定性分析和能量函数、Hopfield 网络神经元的数量、神经元的
阈值、神经元的联结强度值等。
3) Eclipse 插件机制相关知识和 XML 用于数据存储交互的相关知识。
4) 联想存储器的设计和实现,包括 Hopfield 神经网络的设计和学习,
讨论了 Hopfield 神经网络算法的在实际运用中存在的问题,并提出
了改进的 Hopfield 神经网络的联想记忆算法。
5) 介绍联想存储器的实际联想效果和具体应用。包括用于英语字母联想
记忆、用于数字或电话号码联想记忆、中文内容联想记忆等等的示例。
展现 Hopfield 神经网络的联想记忆研究的成果和意义,并将研究引
向深入。