文档介绍：机器学****编年史引言机器学****MachineLearning,ML)可以认为是:通过数据,算法使得机器从大量历史数据中学****规律,从而对新样本做分类或者预测。它是人工智能(ArtificialIntelligence,AI)的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域,主要使用归纳、综合的方法获取或总结知识。作为一门交叉领域学科,它涉及到概率论,统计学,凸分析,最优化,计算机等多个学科。专门研究计算机怎样模拟或实现人类的学****行为,从而获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。本文将以时间为顺序,从两个大阶段介绍机器学****第一部分介绍浅层学****阶段,第二部分介绍深层学****阶段,就是所谓的深度学****浅层学****阶段ArthurSamuel1959年,IBMArthurSamuel的写出了可以学****的西洋棋程序,并发表了一篇名为《SomeStudiesinMachineLearningUsingtheGameofCheckers》的论文中,定义并解释了一个新词—机器学****MachineLearning,ML)。将机器学****非正式定义为”在不直接针对问题进行编程的情况下,赋予计算机学****能力的一个研究领域”。图1ArthurSamuel的西洋棋1957年,Rosenblatt发明了感知机(或称感知器,Perceptron)[1],是神经网络的雏形,同时也是支持向量机的基础,在当时引起了不小的轰动。感知机是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。感知机学****旨在求出将训练数据进行线性划分的分离超平面。,而不是一个算法。虽然它的第一次实现是在IBM704上安装的软件中,但它随后在定制的硬件实现“Mark1感知器”。这台机器是用于图像识别,它拥有一个容量为400的光电池阵列,随机连接到“神经元”,连接权重使用电位编码,而且在学****期间由电动马达实施更新。,Widrow发明了Delta学****规则,即如今的最小二乘问题,立刻被应用到感知机中,并且得到了一个极好的线性分类器。Delta学****规则是一种简单的有导师学****算法,该算法根据神经元的实际输出与期望输出差别来调整连接权,其数学表示如下: 1969年,Minskey提出了著名的XOR问题[2],论证了感知器在类似XOR问题的线性不可分数据的无力,以至于其后十年被称为“冷静时期”,给感知机画上了一个逗号,以洪荒之力将如火如荼将的ML暂时封印了起来。Rosenblatt在这之后两年郁郁而终与此也不无关系,虽然当时Rosenblatt才43岁,虽然Rosenblatt死于游艇意外事故……图3XOR问题1970年,SeppoLinnainmaa首次完整地叙述了自动链式求导方法(AutomaticDifferentiation,AD)[3],是著名的反向传播算法(BackPropagation,BP)的雏形,但在当时并没有引起重视。图4AD算法流程图1974年,Werbos首次提出把BP算法的思想应用到神经网络,也就是多层感知机(MultilayerPerception,MLP)[4],并在