文档介绍：东华大学学位论文原创性声明
本人郑重声明:我恪守学术道德,崇尚严谨学风。所呈交的学位
论文,是本人在导师的指导下,独立进行研究工作所取得的成果。除
文中已明确注明和引用的内容外,本论文不包含任何其他个人或集体
已经发表或撰写过的作品及成果的内容。论文为本人亲自撰写,我对
所写的内容负责,并完全意识到本声明的法律结果由本人承担。
学位论文作者签名:
日期: 年月日
万方数据
东华大学学位论文版权使用授权书
学位论文作者完全了解学校有关保留、使用学位论文的规定,同
意学校保留并向国家有关部门或机构送交论文的复印件和电子版,允
许论文被查阅或借阅。本人授权东华大学可以将本学位论文的全部或
部分内容编入有关数据库进行检索,可以采用影印、缩印或扫描等复
制手段保存和汇编本学位论文。
保密□,在年解密后适用本版权书。
本学位论文属于
不保密□。
学位论文作者签名: 指导教师签名:
日期: 年月日日期: 年月日
万方数据
基于集成学习的支持向量机预测优化算法及其应用
摘要
支持向量机(Support Vector Machine, SVM)以置信范围值最小
化作为优化目标,是一种基于统计学习理论框架下提出的一种新型模
式识别方法,采用基于结构风险最小化准则的学习方法,推广能力好。
SVM 擅长解决样本数量小、低维空间线性不可分类等问题,并且能够
应用到函数拟合等其他机器学习中。但是由于 SVM 是借助二次规划来
求解支持向量,而求解二次规划将涉及 m 阶矩阵的计算,故其在应用
于大规模训练样本方面难以实施。
本文针对传统的支持向量机在处理数据量大的样本时,在预测时
间方面有提高的缺点进行优化算法改进。使得在保证精确度的情况
下,学习时间大大减少。主要的研究工作如下:
首先,讨论了机器学习的基本概念,支持向量机的基础理论,包
括统计学习理论、VC 维理论、结构风险最小化原则、线性可分与非
线性可分的情况、核函数等。着重讨论了支持向量预测机,建立了预
测回归模型,并用 Matlab 中的 LIBSVM 工具包进行仿真实验,采用交
叉验证的方法确定核函数与惩罚参数。得到算法执行均方误差(最为
精确度衡量)与运行时间等性能指标。在波动区间的预测问题方面,
本文采用信息粒度化的思想,将时间序列分割成若干小子序列,再模
I
万方数据
糊化为三个粒子分别进行预测,得到分别对应于最大值、最小值与平
均值的预测结果。
其次,对于大规模样本的训练时间方面的缺点,提出了基于动态
聚类与集成学习思想的优化改进算法。动态模糊聚类方法,通过选择
粒度值与计算样本两两之间的距离,得到大致的初步聚类结果,用隶
属度函数作为确定每个数据点属于某个聚类程度的判断准则,以保证
划分到同类的对象间距离最小,而不同类的对象间距离最大。不同粒
度等级距离函数的衡量标准得到不同的聚类数目,将各次聚类结果进
行采样构成子学习器,对每个子学习器进行分别预测训练,再将各个
子学习器的输出按照其误差大小进行集成,得到最终输出结果。并与
优化前全体样本进行训练以及对整体样本随机采样训练进行的结果
进行对比,分析算法的性能优缺点。
接着,搭建基于 LabVIEW 和 Matlab 的软件系统平台,把 LabVIEW
界面设计与读取数据接口的优势与 Matlab 仿真实验的优点结合。其
中系统平台主要由五个功能模块组成:登录模块、数据读取模块、算
法执行模块、数据存储模块、结果画图显示模块。
最后对本文进行了总结与展望。
关键词:支持向量机,动态聚类,集成学习,回归预测
II
万方数据
SVM PREDICTIVE OPTIMIZATION ALGORITHM AND
APPLICATION BASED ON ENSEMBLE LEARNING
ABSTRACT
Support vector machine (Support Vector Machine, SVM) , which optimization objective is
minimize the range of values of confidence, is a new pattern recognition method base on the
framework of statisti