文档介绍：青岛大学
硕士学位论文
基于遗传算法的分式线性神经网络设计与应用
姓名:李宏伟
申请学位级别:硕士
专业:控制理论与控制工程
指导教师:王冬青
20100605
摘要关键词:遗传算法;分式线性神经网络;网络;降雨量预测神经网络是基于对人脑组织结构、活动机制的初步认识而提出的一种新型信息处理系统。它具有高度并行的非线性、分布式存储和并行协同处理特征。分式神经网络是杨国为提出的有较好逼近能力的一种新神经网络,但是其设计优化问题目前还没有很好的解决。本论文以导师的国家自然科学基金项目“人工脑的信息处理新神经网络模型研究”为任务背景,充分利用遗传算法和分式神经网络的算法的优点,把遗传算法与分式神经网络的算法结合,提出了基于遗传算法的分式神经网络的优化设计算法和方法。以大庆地区降雨量预测为例,论文仿真检验了基于遗传算法的分式神经网络的优化设计方法的可行性和有效性。
洲.—緊荩琧膐甤瓼,.畃。.’’保琋.—.,籉篏籅
基于生物进化原理的搜索算法一遗传算法第一章引言遗传算法与神经网络结合的研究方法问题的提出近几十年来,人们提出了很多种人脑信息处理神经网络模型,如网络、网络、网络,盒中脑P汀⒀┍劳绲取U庑┠P驮谛藕糯怼人工生命幢⒛J绞侗餒’、自动控制辅助决策盯攘煊虻玫讲欢嫌τ梅⒄梗瓜人工神经网络的研究已有了多年的历史、世纪年代初,随着心里学家褪Ъ襊提出了形式神经元的数学模型,拉开了研究神经网络研究的帷幕。目前来看,常用的神经网络学习方法有学习方法、梯度下降法、算法。这些算法都是基于误差函数梯度信息,对于一些复杂,梯度信息难以获取甚至无法获取的问题,这些学习方法往往收效甚微。对迭代初始权值的敏感性决定了这些方法很容易收敛于初值附近的局部极值,这是由梯度算法本身的特点决定的。以算法为例,其本质是应用最速下降法优化网络权值使学习误差达到最小二乘意义下最小。由于误差曲面在权值空间的高度复杂性,因此算法不可避免地具有收敛速度慢,容易陷入局部极小的局限性。分式神经网络虽然有较好的逼近能力睛瞧训练算法和常见网络的算法一样有不收敛和陷入局部最小的风险和可能。因此,若想根本上提高收敛速度,克服局部收敛,实现全局寻优,必须采用全局随机搜索策略。具有很好的鲁棒性和全局搜索能力,非常适用于神经网络结构的优化和调整。遗传算法既可以优化神经网络结构,如确定节点数目,又可以优化神经网络的权值,而且还可以同时优化结构和权值。利用遗传算法强大的全局搜索能力,对神经网络结构、初始权值兄及学习率和动量因子进行全面优化,先是定位出在最优解附近的小的解空间,然后用算法在这些小的解空间中继续搜索出最优解,形成了一种改进的基于遗传算法的神经网络学习算法。实践表明,将两者结合起来,可以提高算法的整体性能。本论文以导师的国家自然科学基金项目“。仿真结果和应用表明该方法有效可行。人工设计神经网络是一件比较复杂的事情,大多数是靠主观判断或是试验的方法来处理。确定性的优化方法,如梯度下降法、爬山法、枚举法等,在解决不可微、了光明的前景。
遗传算法与神经网络结合的研究现状多峰值这类问题时常显得无能为力。J蕉ɡ砭桑证明遗传算法在解决此类问题的有效性,并且被许多实例所证明。遗传算法具有很强的全局搜索能力和鲁棒性,而神经网络具有较强的学习能力和自适应性。把遗传算法和神经网络结合起来,可充分利用二者的优点,既可以克服遗传算法的早熟、不成熟收敛等缺陷,又可以发挥神经网络的泛化映射能力,克服其收敛速度慢,全局搜索能力不足的弱点,从而使遗传算法优化后的神经网络具有自进化、自适应能力,为神经网络展现了更为光明的前景,并且形成了新的进化神经网络研究领域⋯遗传算法与神经网络相结合有三种方式。缛ㄖ档慕R糯惴芄环⑾稚窬缌尤ㄖ档囊桓鼋咏ň肿钣诺连接权值集合,且不需要计算梯度信息,适合处理复杂的、大规模的、不可微的问题,因而特别适合训练神经网络,优化网络的权值和阈值。在整个进化过程中,神经网络的隐含层节点数以及节点之间的连接方式等设计结构的部分固定不变。缃峁沟慕I窬绲慕峁乖谏窬缟杓浦杏任V匾#苯泳龆松经网络的信息处理能力。通过把网络的结构信息编码给遗传算法的染色体当中进行优化。一般情况下,遗传算法同时把网络结构和连接权系数进行进化,这样可减小计算量。肮嬖虻慕M绲难八惴ㄖ饕S商囟ǖ耐缃峁谷范ǎ煌难八法适合不同的神经网络。在学习算法中需要对一些参数进行优化,在这种情况下,可以用遗传算法来进化学习规则中的参数和神经网络的评价函数。遗传算法和神经网络都有很强的解决问题的能力,对两者结合的研究已经受到愈来愈多的关注,并形成了新的遗传神经网络’芯苛煊颉T谝糯惴ㄓ呕窬网络方面,取得了很多很好的改进方案。目