文档介绍:精选优质文档-----倾情为你奉上
精选优质文档-----倾情为你奉上
专心---专注---专业
专心---专注---专业
精选优质文档-----倾情为你奉上
专心---专注---专业
支持向量机与神经网络算法的对比分析
作者ng Theory,SLT)则着重提出了小样本情况下的统计规律和学****方法性质,发展出一种新的通用学****方法--支持向量机(Support vector machine,SVM)。当前关于支持向量机研究的热点主要是对支持向量机中算法的优化,包括解决SVM中二次规划求解问题,对大规模SVM的求解问题;另外就是如何提高SVM的归纳能力和分类速度以及根据具体问题确定核函数等。
精选优质文档-----倾情为你奉上
精选优质文档-----倾情为你奉上
专心---专注---专业
专心---专注---专业
精选优质文档-----倾情为你奉上
专心---专注---专业
        2 支持向量机
        支持向量机是一种基于统计学****理论的模式识别方法,主要应用于模式识别领域。20世纪末,由于研究不够完善,在解决模式识别问题中往往趋于保守,且数学知识匮乏,导致这些研究没有得到充分重视。直至统计学****理论(Statistical Learning Theory,SLT)的实现以及新兴机器学****方法如神经网络等研究遇到瓶颈,使得SVM迅速发展。
         SVM基于统计学理论的基础
        (1)对实际输入的结果输出标签时,风险可以用错误率进行表示。
        (2)VC维理论:一个假设空间的VC维,是该假设空间中可以解决分类问题的方程数目的度量。
        (3)SVM算法要求的样本相对比较少。
         支持向量机算法的基本原理
        SVM以结构风险最小化为理论基础,以寻找最优分割超平面进行建模,引入松弛变量和错误代价系数处理数据不可分和存在噪声的情况。这使其在训练样本有限的情况下能够有效避免过拟合问题,从而提高算法的泛化性能。
         最优分类超平面
        支持向量机中最简单也是最早提出的模型是最大间隔分类器。最初仅用于处理两类分类问题,核函数的引入使其具有构建非线性分类边界的能力。通过寻找一个分类超平面,能够使支持向量和超平面最小距离的最大。支持向量机通过对分类间隔最大化来控制泛化能力,将二维空间推广到高维空间,最优分割线就成为最优分类面,即最优超平面。
         核函数及其特征空间
        支持向量机中研究的两个关键因素分别是数学规划及核函数问题。通过引用核函数,将当前维度下线性不可分的训练数据映射到更高维度的特征空间,将问题转化为高维空间中线性可分问题,然后构建相应的分类超平面。
精选优质文档-----倾情为你奉上
精选优质文档-----倾情为你奉上
专心---专注---专业
专心---专注---专业
精选优质文档-----倾情为你奉上
专心---专注---专业
        核函数的选择一般考虑使用径向基函数。其关系到支持向量机的性能,只要参数选择合适,支持向量机可以对任意具有这一性质的数据集进行分类。
        3 SVM和神经网络对比分析