文档介绍:中文摘要关键词:神经网络反向传播算法人工神经网络是智能计算发展的一个主流方向,目前已经广泛应用于模式识别、信号处理、知识工程、专家系统、机器控制等许多领域。网络由于结构简单、精度较高、易于编程、可操作性强、非线性映射能力强等优点而成为目前神经网络中应用最广泛的一种。由于标准算法基于最速梯度下降法,导致标准算法存在收敛速度缓慢,容易陷入局部极小,隐含层的层数及其节点的数量难以确定,每种输入模式的期望输出必须已知等缺点。‘为此,许多学者进行研究,并且提出了一些改进型算法,包括:附加动量法、自适应学习速率法、弹性算法、ā⒏咚梗6俜ā⒐查钐荻确ā瓽惴ê湍D馔嘶鹚惴ǖ取本文结合标准算法的原理,针对其存在的上述缺陷,提出了一种在附加动量法中添加学习速率自适应因子的新算法,并给出了新算法的数学公式。新算法基于附加动量法,因而可以避免陷入局部极小;加入了学习速率自适应因子,因而收敛效果好。为了验证新算法的改进效果,我们将新算法用于解决异或问题和函数逼近问题,并和标准算法及传统改进型算法进行了对比。通过软件仿真发现:与传统改进型算法相比,新算法不仅可以改善收敛效果,避免陷入局部极小值,而且具有较好的稳定性和鲁棒性。自适应学习速率收敛速率局部极小值
知识水坝***@pologoogle为您整理
琒篘簍琇甒瓵琲瑂,琫,琱,琯,琭,瓵,.,,.
知识水坝***@pologoogle为您整理
签字同期:加年/同杨甲玮学位论文作者签名:杨鹉晔同独创性声明砌多年乡月学位论文版权使用授权书或撰写过的研究成果,也不包含为获得鑫壅盘茔或其他教育机构的学位或证本学位论文作者完全了解.:苤盗盘堂特授权苤盗盘堂可以将学位论文的全部或部分内容编入有关数据库进行检书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论闹本人声明所呈交的学位论文是本人在导师指导下进行的研究工作和取得的研究成果,除了文中特别加以标注和致谢之处外,论文中不包含其他人已经发表作了明确的说明并表示了诩意。签字日期:有关保留、使用学位论文的规定。索,并采用影印、缩印或扫描等复制手段保存、汇编以供查阅和借阅。同意学校向国家有关部门或机构送交论文的复印件和磁盘。C艿难宦畚脑诮饷芎笫视帽臼谌ㄋ得学位论文作者签名:导师签名:‘
第一章绪论引言人工神经网络,是智能计算发展的一个主流方向,是一门植根于许多学科的技术,其中涉及神经科学、数学、统计学、物理学、计算机科学和工程学。对神经元网络的研究是从世纪年代初开始的,至今已有半个多世纪的历史。第一个智能型的人工神经元网络系统是在年文献【恐刑岢龅母兄FP屯纭T谡庵秩斯ど窬M缰校忆的信息存贮在连接权上,外部刺激通过连接通道自动激活相应的神经元,以达到自动识别的目的。虽然感知器模型比较简单,但已经具有神经元网络的一般性质,如可学习性、并行处理、分布式存贮等,这些性质与当时流行的串行、离散的符号处理的电子计算机与人工智能技术完全不同,因此引起了研究人员的极大兴趣。随着人工神经元网络研究的不断深入,人们曾遇到过来自各方面的各种困难和许多一时难以解决的问题。对神经元网络的学习能力问题,引起了学术界的很大争议。⒈砹硕陨经元网络研究产生重要影响的《感知器》一书,书中提出了感知器模型的局限性,它大大地影响了人们对神经元网络研究的兴趣,使人工神经元网络的研究在年代处于低潮。世纪年代中期以来,神经网络重新引起了许多科学工作者的兴趣,形成近代非线性科学和智能计算研究的主要内容之一。特别是神经网络经历了新近年的迅速发展,使其在许多应用领域取得了显著的进展。各个学科的研究人员都想利用人工神经元网络的特殊功能来解决本学科的难题,很多的工程项目都采用和正准备采用人工神经元网络的解决方案,同时不同学科的科学工作者正在积极地联合起来进行各种学术交流。目前,神经网络的研究可以分为理论研究和应用研究两大方面。理论研究可分为以下两类:蒙窬碛肴现?蒲а芯咳死嗨嘉约智能机理。蒙窬±砺鄣难芯砍晒檬矸椒ㄌ剿鞴δ芨油晟啤性能更加优越的神经网络模型,深入研究网络算法和性能,如:稳定性、收敛性、容错性、鲁棒性等;开发新的网络数理理论,如:神经网络动力学、非线性神经场等。应用研究可分为以下两类:窬绲娜砑D夂陀布迪值难芯俊
算法改进的历史和现状纳能力使其在许多领域得到越来越广泛的应用。这些领域主要包括:模式识别、信号处理、知识工程、专家系统、优化组合、机器人控制等。随着神经网络理论此在众多的领域得到了广泛的应用。但网络存在自身的限制与不足,如需要量法】、自适应学速率法【俊】】、弹性算法【等;学习算法的改进主要有:共轭梯度法【、拟牛顿法【卡尔曼滤波法【⒍子呕以及最优滤波法㈣等。【】【人工神经网络系统由于所具有的非线性特性,大量的并行分布结构以及学习和