文档介绍：多层前向神经网络推广性研究及其应用摘要学生:夏菁导师:何明一教授学科:信号与信息处理关键词:多层前向神经网络,模式识别,推广性,结构优化,网络修剪,迭但目前神经网络的理论和应用都还存在一些困难,如局部极小点、过学习、欠神经网络在模式识别、函数逼近、数据挖掘等许多领域已经取得了很多成功,学习以及推广能力等问题。其中,网络的推广能力是衡量神经网络性能的最重要的指标之一,推广能力差的网络很难在实际应用中取得好的结果,如何提高网络推广能力成为该领域的热点之一。本文结合有关项目,对神经网络推广性理论以及提高网络推广能力的方法进行了较为深入的研究,提出了基于网络修剪的神经网络强推广性学习算法,该算法能够有效地提高神经网络推广能力,并把该算法用于高维多光谱图像分类中。人工数据和多光谱数据的实验结果表明该算法是非常有效的。本文首先介绍了多层前向神经网络的基本问题,回顾了神经网络的发展历程,详细介绍了多层前向神经网络的结构、功能、学习算法以及在实际应用中所需要考虑的问题。然后介绍了神经网络推广性的概念,推广性的基本理论,以及目前常用的提高神经网络推广能力的方法,总结了当前神经网络结构优化与推广能力研究的现状。接着从神经网络结构对推广能力的影响入手,用实验的方法分析了隐层神经元数目与网络推广能力之间的关系。根据修剪网络结构能够提高网络推广能力的基本思想,提出了一种新的网络迭代修剪算法来提高网络的推广芰ΑW詈蠹蛞=樯芰烁呶喙馄资莘掷嗟幕≈J叮⑹褂蒙经网络对高维多光谱数据进行分类,然后用我们提出的网络迭代修剪算法来优化网络结构,提高数据分类的精度。人工数据和多光谱数据的实验结果表明该算法能够有效地提高神经网络的推广能力。代算法西北工业大学硕士论文
知识水坝***@pologoogle为您整理
.:,琽琯,痯畇:琍,西北工业大学硕士论文多层前向神经网络推广性研究及其应用:.,琩...,琁,
知识水坝***@pologoogle为您整理
第一章绪论课题研究背景和意义随着计算机及计算机网络的飞速发展和广泛应用,人们希望用计算机帮助甚至代替人来完成更多复杂的脑力劳动,以提高自动化水平和工作效率,这促使自动控制与人工智能两个学科交叉融合,形成了智能控制与智能自动化虺为智能控制庖恍碌难Э啤H斯ぶ悄苁且约扑慊9ぞ撸D馊说闹澳苄形#研究解决信号处理、模式识别、系统辨识、故障分析、预报、控制等复杂任务如何实现自动化的科学技术,具有非常广泛的应用前景,是当代国际高科技竞争的重要领域之一。神经网络作为当前两种主要的智能控制技术之一,它能模拟人的智能行为,不需要精确的数学模型,能够解决传统自动化技术无法解决的许多复杂的,不确定性的,非线性的自动化问题,而且易于用硬件或软件来实现。神经网络能模拟人脑的结构完成对信号的记忆和处理功能,擅长从输入输出数据中学到有用的知识。神经网络是一个高度并行的、非线性的、具有很高冗余度的系统,这种系统结构使知识的表达、存储和模式信息处理过程,都与传统的方法有很大差别;具有高度非线性,使我们能表达一些至少目前无法用计算理论表达清楚的外部世界模型及信息处理的过程;同时,神经网络所具有的自学习、自组织能力,使我们能在与外部世界的交互作用下,实现无法用当前计算理论表达清楚的功能。所有这些,使得近年来对神经网络与计算神经科学的研究越来越受到重视。人们对神经网络的研究逐渐热烈起来。现在神经网络已经应用到很多的领域中:如模式识别,信号处理,智能控制,计算机视觉,优化计算,知识处理,生物医学工程等。在早期的神经网络研究中,人们把注意精力集中在如何减少训练误差上。但很快人们发现,一味追求训练样本集上小的训练误差并不是总能在未知样本上达到好的结果。这里就出现了所谓的推广问题,推广虺品夯能力是指经训练后的网络对未在训练集中出现ň哂型还媛尚的样本做出正确反应的能力,学忆已经学过的输入,而是通过对有限个训练样本的学习,学到隐含在样本中的有关环境本身的内在规律性。某些情况下,当练误差过小反而会导致推广能力降低,这就是神经网络中常说的过训练现西北工业大学硕士论文多层前向神经网络推广性研究及其应用
课题研究的历史与发展络推广能力的一个重要因素——网络结构开始,讨论隐层神经元数目与网络推即在某些情况下最坏情况的推广性能将超过某个下限。年等人则象。神经网络学习过程中,如果对于有限的训练样本来说网络的学住每一个训练样本,此时训练误差很快收敛到很小甚至为零,但无法保证它对未来样本能够得到很好的预测。这就是有限样本下的学习机器的复杂性与推广性之间的矛盾。在模式分类问题中,学习机器的推广能力直接影响对未来模式的分类精度。因此,对学习机器推广性的研究受到人们越来越多的重视。多层前向神经网络在一些模式分类问题中取得了很好的结果,因