文档介绍：兰州理工大学
硕士学位论文
神经网络集成的泛化能力研究及其应用
姓名:陈涓
申请学位级别:硕士
专业:计算机应用技术
指导教师:於时才
20090330
摘要目前,神经网络集成技术已经被广泛应用于回归和分类等诸多领域。提高预测和分类的精度作为其应用的一种是目前很多决策领域面对的重要而困难的工作,多模型结合的结构是预测领域一个较为有效的方法,而神经网络集成作为多模型结合结构的一种,易于使用且效果明显,已然成为目前国际机器学习和神经计算界的研究热点。本文通过对神经网络集成理论的研究,将神经网络集成用于时间序列预测领域和分类领域,通过增加集成系统的泛化能力的方法来提高时序预测的精度。在提高集成系统的泛化能力方面主要做了如下研究和探讨。首先,从原始训练数据角度,为了尽可能的充分利用训练数据,提高集成的泛化能力,通过在训练样本上加入一定量噪声的方法,增大了训练样本集,新训练数据集和原数据集相似,不同的个体网络在不同的训练样本上训练,增加了集成中个体网络的差异度。从这个角度来提高神经网络集成的泛化能力。其次,从增加个体网络间差异度的角度,引入基于小生境技术的神经网络进化集成方法。利用小生境技术在增加进化群体的多样性,提高进化的局部搜索方面的良好性能,通过个体间的相似程度的共享函数来调整神经网络集成中个体网络的适应度,再依据调整后的新适应度进行选择,以维护群体的多样性,得到多样性的个体网络,提高神经网络集成系统的泛化能力。最后,将提出的方法应用于南方某城市的电力负荷短期预测及餮知识库下面的两个标准数据集,实验仿真显示,取得了较好的效果。关键词:神经网络集成:泛化能力;噪声添加;小生境;进化集成;聚类硕士学位论文
.,神经网络集成的泛化能力研究及其应用瓹诧甆,;、Ⅳ,行.,畂琭,,痵痵’畊甌,.;籈籆
插图索引图本文仿真结果与真实值比较⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯..图神经网络进化集成的流程⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯图网络中神经元连接关系⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯图个体神经网络的分层聚类⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯。图引入小生境的进化集成多样性分析⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯图不同的划分超平面及其边际⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯抡娼峁胝媸抵当冉稀图进化方向原理说明图⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯一图神经网络结构示意图⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯一图硕士学位论文
附表索引表预测结果及真实值比较⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯..表十二个整点负荷数据及三个气象数据⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯..表续表⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯表引入小生境与未引入的进化集成方法比较⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯.表与げ馕蟛畋冉稀数据的分类效果⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯一数据的分类效果⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯⋯神经网络集成的泛化能力研究及其应用
翩签名:方惭眦多年/月驴日吼晟圃乱兹日期:口月孑日兰州理工大学学位论文原创性声明和使用授权说明原创性声明学位论文版权使用授权书本人郑重声明:所呈交的论文是本人在导师的指导下独立进行研究所取得的研究成果。除了文中特别加以标注引用的内容外,本论文不包含任何其他个人或集体已经发表或撰写的成果作品。对本文的研究做出重要贡献的个人和集体,均已在文中以明确方式标明。本人完全意识到本声明的法律后果由本人承担。学校有权保留并向国家有关部门或机构送交论文的复印件和电子版,允许保存和汇编本学位论文。同时授权中国科学技术信息研究所将本学位论文收录到《中国学位论文全文数据库》,并通过网络向社会公众提供信息服务。作者签名:本学位论文作者完全了解学校有关保留、使用学位论文的规定,即:论文被查阅和借阅。本人授权兰州理工大学可以将本学位论文的全部或部分内容编入有关数据库进行检索,可以采用影印、缩印或扫描等复制手段作者签名:.
,它建立在简化的神经元模型和学习规则的基础上,由此产生了许多计算上的优势,并且已在很多领域得到了成功的应用,但由于缺乏严密理论体系的指导,其应用效果完全取决于使用者的经验。虽然等人Ⅲ证明,仅一个非线性隐层的前馈网络就能以任意精度逼近任意复杂度的函数,但一些研究者乜’指出对网络的配置和训练是问题。在实际应用中,由于缺乏问题的先验知识,往往需要经过大量费力耗时的实验摸索才能确定合适的神经网络模型、算法以及数值设置,其应用效果完全取决于使用者的经验。即使采用同样的方法解决同样的问题,由于操作者不同其结果也很可能大相径庭。在实际应用中,操作者往往是缺乏神经