文档介绍：9第9 章机器学****与知识发现第9 知识发现与数据挖掘****题九9第9 章机器学****与知识发现学****目标:?了解机器学****的概念、原理、分类?理解决策树学****的方法?了解神经网络学****理解BP网络学****的原理和过程9第9 机器学****的概念心理学中对学****的解释是: 学****是指(人或动物)依靠经验的获得而使行为持久变化的过程。人工智能和机器学****领域的几位著名学者也对学****提出了各自的说法。Langley(1996) 定义的机器学****是“机器学****是一门人工智能的科学,该领域的主要研究对象是人工智能,特别是如何在经验学****中改善具体算法的性能”。Tom Mitchell的机器学****1997)定义机器学****机器学****是对能通过经验自动改进的计算机算法的研究”。Alpaydin(2004)的定义,“机器学****是用数据或以往的经验,以此优化计算机程序的性能标准。”9第9 章机器学****与知识发现尽管如此,为了便于进行讨论和估计学科的进展,有必要对机器学****给出定义,即使这种定义是不完全的和不充分的。顾名思义,机器学****是研究如何使用机器来模拟人类学****活动的一门学科。稍为严格的提法是:机器学****是一门研究机器获取新知识和新技能,并识别现有知识的学问。这里所说的“机器”,指的就是计算机,电子计算机,中子计算机、光子计算机或神经计算机等等。9第9 章机器学****与知识发现思考:机器能否象人类一样能具有学****能力呢? 1959年美国的塞缪尔设计了一个具有学****能力下棋程序,它可以在不断的对弈中改善自己的棋艺。4年后,这个程序战胜了设计者本人。又过了3年,这个程序战胜了美国一个保持8年之久的常胜不败的冠军。机器的能力是否能超过人的,很多持否定意见的人的一个主要论据是:机器是人造的,其性能和动作完全是由设计者规定的,因此无论如何其能力也不会超过设计者本人。这种意见对不具备学****能力的机器来说的确是对的,可是对具备学****能力的机器就值得考虑具备学****能力的机器就值得考虑了,因为这种机器的能力在应用中不断地提高,过一段时间之后,设计者本人也不知它的能力。9第9 章机器学****与知识发现发展史机器学****是人工智能研究较为年轻的分支,它的发展过程大体上可分为4个时期。第一阶段是在20世纪50年代中叶到60年代中叶,属于热烈时期。第二阶段是在20世纪60年代中叶至70年代中叶,被称为机器学****的冷静时期。第三阶段是从20世纪70年代中叶至80年代中叶,称为复兴时期。机器学****的最新阶段始于1986年。9第9 章机器学****与知识发现机器学****进入新阶段的重要表现在下列诸方面:(1) 机器学****已成为新的边缘学科并在高校形成一门课程。它综合应用心理学、生物学和神经生理学以及数学、自动化和计算机科学形成机器学****理论基础。(2) 结合各种学****方法,取长补短的多种形式的集成学****系统研究正在兴起。(3) 机器学****与人工智能各种基础问题的统一性观点正在形成。(4) 各种学****方法的应用范围不断扩大,一部分已形成商品。遗传算法与强化学****在工程控制中有较好的应用前景。与符号系统耦合的神经网络连接学****将在企业的智能管理与智能机器人运动规划中发挥作用。(5) 与机器学****有关的学术活动空前活跃。国际上除每年一次的机器学****研讨会外,还有计算机学****理论会议以及遗传算法会议。9第9 机器学****的原理从以上对于学****的解释可以看出: (1) 学****与经验有关。(2) 学****可以改善系统性能。(目的)(3) 学****是一个有反馈的信息处理与控制过程。9第9 章机器学****与知识发现机器学****的流程就是: ①对于输入信息, 系统根据目标和经验做出决策予以响应, 即执行相应动作; ②对目标的实现或任务的完成情况进行评估; ③将本次的输入、响应和评价作为经验予以存储记录。第一次决策时系统中还无任何经验, 但从第二次决策开始, 经验便开始积累, 系统的性能自然就会不断改善和提高。9第9 章机器学****与知识发现上面的学****方式现在一般称为记忆学****例如, Samuel的跳棋程序就采用这种记忆学****方法。记忆学****实际上也是人类和动物的一种基本学****方式。然而, 这种依靠经验来提高性能的记忆学****存在严重不足。其一,由于经验积累是一个缓慢过程, 所以系统性能的改善也很缓慢; 其二,由于经验毕竟不是规律, 故仅凭经验对系统性能的改善是有限的, 有时甚至是靠不住的。如果能在积累的经验中进一步发现规律, 然后利用所发现的规律即知识来指导系统行为,那么,系统的性能将会得到更大的改善和提高,于是, 有机器学****原理2。