1 / 107
文档名称:

机器学习统计学习理论与支持向量机算法.ppt

格式:ppt   大小:729KB   页数:107页
下载后只包含 1 个 PPT 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

机器学习统计学习理论与支持向量机算法.ppt

上传人:977562398 2019/2/15 文件大小:729 KB

下载得到文件列表

机器学习统计学习理论与支持向量机算法.ppt

文档介绍

文档介绍:第二章统计学习理论与 支持向量机算法1引言统计学习理论讨论的是基于数据的机器学习问题研究如何从一些观测数据(样本)出发得出目前尚不能通过原理分析得到的规律,即基于观测设计优化过程,然后利用这些规律去分析客观对象,对未来数据或无法观测的数据进行预测。主要任务:对于一种未知的依赖关系,以观测为基础对它进行估计。,现有学习方法也多是基于此假设。但在实际问题中,样本数往往是有限的,因此一些理论上很优秀的学习方法实际中表现却可能不尽人意。统计学习理论(StatisticalLearningTheory或SLT)、七十年代开始致力于此方面研究,到九十年代中期,随着其理论的不断发展和成熟,也由于神经网络等学习方法在理论上缺乏实质性进展,统计学习理论开始受到越来越广泛的重视。统计学习理论是建立在一套较坚实的理论基础之上的,为解决有限样本学习问题提供了一个统一的框架。在这一理论基础上发展了一种新的通用学习方法——支持向量机(SupportVectorMachine或SVM),它已初步表现出很多优于已有方法的性能。2统计学习理论经典的统计基础存在两个理论缺陷没有对经验风险最小化原则下统计学习的一致性进行分析,不能保证经验风险的最小值(或下确界)收敛到(或依概率收敛到)期望风险的最小值(或下确界)。大数定律描述的是一个极限过程,不对收敛速度进行分析,那么在样本数目有限的情况下,以频率代替概率(均值代替期望)并不一定能得到好的近似。,统计学习理论从理论上系统地分析经验最小化原则成立的条件,建立了学习过程收敛速度的界,进而提出了小样本归纳推理原则,并给出控制学习过程的推广能力的方法。到20世纪90年代,统计学习理论已基本成熟。1995年,Vapnik完成专著《TheNatureofStatisticalLearningTheory》,这是统计学习理论走向成熟和得到正式承认的标志。围绕学习问题的一般过程统计学习理论分成从理论向实践渐进的4个部分学习过程一致性的理论(一个基于ERM原则的学习过程一致充分必要条件是什么?)一个基于经验风险最小化原则的学习过程,满足怎样的条件时,它的经验风险与实际风险趋向一致。在分类问题中存在对应的充分必要条件,而对拟合问题目前仅存在充分条件。学习过程收敛速度的理论(这个学习过程收敛的速度有多快?)如果学习过程的经验风险与实际风险趋向一致,那么它们间的接近速度随着训练样本数的增加,是如何变化的,哪些因素控制着它们接近的速度。

最近更新

父亲节国旗下讲话稿(21篇) 30页

一种三维激光扫描点云数据的预处理方法 2页

一种400V电解电容器及其生产工艺 2页

营销部工作计划汇编(5篇) 31页

记叙文作文合集9篇优选(9篇) 13页

轻度工伤一次性赔偿协议书(18篇) 39页

《金融研究》1985年主要论文目录 2页

《红外与激光技术》一九八七年总目录 2页

第10章激励理论 43页

《全国水利经济计算研究班》在京举办 2页

“日轻”(株)装配库隔热板的生产技术和品质 2页

“复关”对我国酿酒业的冲击及策略研究 2页

“六·五”期间钒钛低合金钢的生产、科研与应.. 2页

’93全国白酒生产新技术新产品交流交易会将在.. 2页

~(14)C-四氧嘧啶在小鼠体内分布的研究 2页

ZJ2515DJ钻台液力耦合器应用技术论证方案 2页

YJEQ—1型油烟净化器通过技术鉴定 2页

X射线荧光光谱法在区域化探中的应用 2页

高一主题班会《手机使用之我见》 18页

高一27主题班会责任教育ppt课件 38页

2025年幼儿园安全教育工作计划8篇 31页

完整word标准作文稿纸模板大小A4纸 3页

四川省2023年普通高校对口招生统一考试语文真.. 9页

武汉东湖旅游地质介绍 12页

大功率用电器检查表2 2页

2021年-全年资料解析 30页

《相似三角形的性质》说课稿 5页

业委会换届选举全套流程 10页

三人成虎 PPT经典课件 11页

纳米技术在生活中的应用 5页