文档介绍：支持向量机改进算法及其应用研究摘要专业:应用数学研究方向:人篬智能与计算机网络博士,￡:奉国和指导教师:朱思铭教授支持向量机是新近出现的一种机器学****方法,它最突出的优点是:统计学****理论,给出了实际风险的上界,避免过学****蠼馕侍夤榻嵛R桓线性约束的凸二次规划问题,解是全局最优的和唯一的,避免局部极小;τ煤撕淙肟占渲械南咝圆豢煞质莼L卣骺占湎咝钥煞质荨支持向量机成为目前研究的热点,并且被广泛地应用在模式识别、函数逼近、回归估计、时间序列预测中。支持向量机采用结构风险最小化原则,给出了实际风险的界;而神经网络则采用经验风险最小化原则,在实际问题中容易产生过学****论文对径向基神经网络与支持向量机、加权支持向量机预测证券指数时间序列作比较。结果表明,支持向量机泛化精度要好于径向基神经网络。支持向量机求解规模与样本数量有关,对于大样本训练,支持向量机有一个致命缺点,即内存开销大、训练速度慢。如何减少内存开销及提高训练速度则成为研究囊桓鲂挛侍狻B畚牟捎梅侄沃—狢思想,将复杂大问题分解为一系列简单小问题。首先将大样本集分解成若干个工作子集,在每个工作子集上抽取支持向量,集成各支持向量,并根据支持向量的重要性给出不同的错误惩罚度,即进行加权,最后训练出一个支持向量机模型,即论文提出的分解合作加权支持向量机。与标准支持向量机相比,在保持泛化精度基本一致前提下,分解合作加权支持向量机训练速度的提高是数量级的。增量学****为解决大规模样本而提出的,是支持向量机研究的一个热点,增量博士学位论文
据,又能充分利用历史训练结果,则可显著减少存储空间和后继调练时间。论学****技术是当前信息智能化发现和挖掘的关键技术之一。如何不用保存历史数文在分解合作加权的基础上引入移动窗口技术,用于支持向量机的增量学****实验表明,其训练速度比传统支持向量机要快。对大样本支持向量机分类,提出了边界邻近支持向量机算法。只有支持向量才对分类器起决定作用,而这些支持向量只占整个样本数量很少的一部分,并且恰好靠近分类超平面的附近,这样边界邻近支持向量机首先筛选出超平面附近的支持向量,即边界邻近支持向量,然后利用邻近样本堋练分类器。从而极大地减少了训练样本的数目,提高了训练速度。关键词:分解合作加权支持向量机;增量学****神经网络:边界邻近支持向量机:证券指数:大掸本。博士学位论文摘要¨
’篈:琣;琣:,,鰎琲:,,猻琭,..甀瑆—猚博士学位论立
:猚鷗口甌;.瓻;
第一章综述§引言的追求,上一阶段的研究几乎完全局限在人工智能这一领域中,这一时期机器学人是很善于学****的,人的智慧中一个很重要的方面是从实例学****的能力,如通过掌握以往天气变化规律来预测未来天气变化情况,做好预防措施。这种通过已知观察到的规律来对未知做预测或判断的能力称为推广能力。随着计算机技术的发展,人们自然希望机器扑慊也具有人的这种推广能力。自从计算机问世以来,人们就想知道它们能不能自我学****如果我们理解了它们学****的内在机制,即怎样使它们根据经验来自动提高,那么影响将是空前的。想像一下,在未来计算机能从医疗记录中学****获取治疗新疾病最有效的方法;住宅管理系统分析住户的用电模式,以降低能源消耗,这些即为基于数据的机器学****或者简单地称作机器学****机器学****最初起源于人工智能对人类学****能力****本身是目的;而现在,机器学****已经开始进入了计算机科学的不同领域,甚至其他学科,成为一种支持技术、服务技术,而此时机器学****本身是手段,是为其它目的服务的。目前机器学****在生物信息学、计算金融学、分子生物学、行星地质学、工业过程控制、信息安全、机器人、遥感信息处理等方面应用非常广泛“’“。如美国年开始启动以机器学****为核心的计划,整个计划为昶冢灼一年到一年半的时间蹲蛎涝#眉苹鲎蛹苹渲蠧蛹苹钦鯬计划的核心,将机器学****技术放到了国家安全的角度来考虑,美国主要大学与公司参加这个子计划。美国航空航天局笛槭业目蒲Ъ以凇秙》月献闹出;机器学****对科学研究的整个过程正起到越来越大的支持作用,⋯⋯,该领域在今后的若干年内将取得稳定而快速的发展。人们在对机器学****的研究中主要通过设计某种承方法,使之能够通过对已知数据的学****找到数据内在的相互依赖关系,从而对未知数据进行预测或对博:卜学位论立
蛳低车匮芯苛嘶餮暗奈年代中期,在这一理论框架下产生出了“支持向量机琒闭庖恍碌幕餮***椒ā,或者说支持向量机是统计学****理论实现的具体表现。或许是由于统计学****理论为人们系统研究有限样本情况下机器学****问题提令人向往的优良特性,人们开始迅速重视起该学术方向。现在,越来越多的学者认为,关于统计学****理论和支持向量机的研究,将很快出现象在年代后期人其性质进行判断。这里,我们还是关心推广能力问题。关于机器学****推广能力的第一个结果由旮觯っ髁酥灰8兄F鹘凶愎欢啻的学****则在有