文档介绍:计学习理论,提出了新的模式识别方法一支持向量机ⅧVС窒蛄炕魑摘要机器学习方法,自世纪年代以来,自身形成了一个较完善的理论体系——统统计学习理论是在传统统计学基础上发展起来的一种具有坚实理论基础的机器学习领域若干标准技术的集大成者,它在解决小样本、非线性和高维的机器学习问题中表现出了许多特有的优势。随着现代工业及科学技术的迅速发展,现代设备的结构越来越复杂,功能越来越完善,自动化程度越来越高,不仅同一设备的不同部分有互相关联,不同设备之间也存在着紧密的关系,设备维护和监测诊断的难度相应增加。更重要的是,有些情况下人难以到达现场,如航空,航天,深水作业等,这些都对工程诊断的智能化提出了迫切的要求。电子技术,尤其是计算机技术的发展,为智能诊断提供了必要的技术基础。智能诊断己成为工程诊断的一个重要的研究方向和必然趋势。论文在介绍支持向量机的原理基础上,分析了泻撕⒑瞬问俺头参数挠跋欤樯芰巳諷参数选择方法,并讨论了其优点和不足:论文总结了现有主要的支持向量机多类分类算法,系统地比较了各类算法的训练速度、分类速度和推广能力,并分析它们的不足和有待解决的问题。在此基础上,研究了多类支持向量机在柴油机多故障分类中的应用。试验结果证明支持向量机具有很强的分类能力。关键词:统计学习理论;支持向量机;故障诊断基于牟裼突倒收险锒涎芯
知识水坝为您整理
甌甌甌.⋯甀,——畉琣;籉’.,.瓵,篠
知识水坝为您整理
统计机器学习的发展第一章绪论是,相对于感知机而言,这些学习机器从一开始就被看成是解决现实问题的工具,机器学习是人工智能研究的最早的也是最前沿的研究课题之一,一个不具备学习功能的系统不能被认为是有智能的系统。通常大家认为,机器学习可以分成两种类型:基于符号的机器学习和基于连接的机器学习。前者如、等,近期研究比较多的是。后者如网络、绲龋研究较多的是统计学习理论和在年,在其著作中将统计机器学习的研究历史划分成四个阶段【浚矗篟的感知机阶段,学习理论的创立阶段,神经网络阶段,返回下面,我们先来回顾一下每个阶段发生的重大事件:甏的感知机U馐茄盎鞯牡谝桓瞿P停脖曛着对学习过程的数学分析从此真正开始了。从概念上来看,感知机并不是一个新的概念,在神经生理学中已经讨论了很多年。早在年代初,神经生物学家肭嗄晔Ъ襊献鳎尤四孕畔⒋砉鄣愠龇ⅲ捎檬砟P偷方法研究了脑细胞的动作和结构及其生物神经元的一些基本生理特性,提出了第一个神经计算模型瓷窬5姆е翟<P停虺聘文P停<扑闵窬形的某方面提供了可能性。随着计算机技术的发展,年,做了一件很不寻常的事情,他将这个模型描述为可以在计算机上执行的程序,并通过简单的实例演示了这个模型可以推广俊甏学习理论基础的构建K孀鸥兄;墓阄H酥#渌而非机器学习的一个基本的模型,还有一些计算机程序,如最初用于专家系统的决策树。语音识别中的隐马尔可夫模型,这些程序同样没有对一般的学习机制的研究产生深远的影响。年的网络标志着学习机器的又一个新纪元。在感感知机阶段。模型的学习机器又陆续产生了,如的,难熬卣蟆5
年蝴鷇等人提出了并行分布处理的理论,同时,和知机和网络之间的这段时间里,除了发展了统计学习理论甏神经网络辏拦又莨ぱг篐岢鯤神经网络模型,开创了把神经网络用于联想记忆和优化计算的新途径。年,和热颂岢隽瞬6嚷P停状尾捎昧硕嗖阃绲难八法,在学习中采用统计热力学模拟退火技术,保证整个系统趋于全局稳定点。独立发展了多层网络的算法,这是目前最普通的网络,广泛用于实际问题求解嗍。网络的产生可以认为是感知机的第二次生命。十年过去后,从概念的角度来看,这第二次生命并不如第一次那么重要。尽管使用神经网络在某些特定的应用中取得了重要的成就,但是,所得到的理论结果本身并没有对一般的学习理论产生多少的贡献。而且,神经网络的实验中也没有发现任何新的有趣的学习现象。所以,实际上,十年来神经网络的研究并没有很多地推动我们对学习过程本质的甏返回感知机阶段T诶飞希餮盎旧鲜窃诰验范畴内进行研究的,随意性相当严重阁。其一,机器学习往往受某个自然科学的原理启发,特别是认知心理学的原理,认知心理学研究的那种随意性也带入了机器学习的研究之中;其二,对学习解的选择涉及搜索策略,使用什么样的搜索策略往往没有一般的原则可循;其三,对学习结果的评价没有可以描述的标准,因此,对不同学习算法难以比较它们的优劣。这种现状是不能接受的,自世纪年代以来,一些数学家试图改变这种状况,其中统计机器学习理论是一个典型例子。这个理论可以在不增加计算复杂性的条件下,描述统计机器学习已有的主要算法。由于这个理论有坚实的数学基础,因此大大减少了算法设计的随意性,并且使已有的各种机器学习算法有了理论基础。现在,统计学习理论的先进之处越来越吸引了更多的注意,尤其是结构风险最小化理论和最小描述长度理