文档介绍：1机器学****概念学****2 ?归纳学****概念?概念学****定义?作为搜索的概念学****搜索策略:偏序) ?Find-S :寻找极大特殊假设?变形空间和候选消除算法?归纳偏置 OUTLINE 3 ?归纳学****也可以称作归纳推理或简称归纳,其任务是: 给定函数 f(未知)的实例集合,返回一个近似于 f的函数 h—— h称为假设,所有 h的集合称为假设空间?一个好的假设应该能够预测未见过的实例——这就是基本的归纳问题–问题实例——用一个单变量函数(近似目标函数)来拟合若干数据点,选择最高次数为 k的多项式集合作为假设 h的集合,即假设空间 H归纳学****4 x )(xf)(a x )(xf)(b x )(xf)(c x )(xf)(d数据拟合 5 ?上图中显示了拟合两两一组数据的不同函数—与所有数据一致的函数称为一致假设?如何在多个一致假设之间进行选择? ?答案—奥卡姆剃刀原则(Ockham ’s razor) —优先选择与数据一致的最简单假设?原因—比数据本身更复杂的假设不能从数据中提取任何模式?此外,对于非确定性函数,在假设的复杂度和数据拟合度之间进行折中不可避免 Ockham 剃刀原则 6 ?归纳学****概念?概念学****定义?作为搜索的概念学****搜索策略:偏序) ?Find-S :寻找极大特殊假设?变形空间和候选消除算法?归纳偏置 OUTLINE 7 ?概念学****给定某一类别的若干正例和反例,从中获得该类别的一般定义。?搜索的观点–在预定义的假设空间中搜索假设,使其与训练样例有最佳的拟合。–利用假设空间的偏序结构?算法收敛到正确假设的条件概念学****8 ?概念学****的定义–给定一个样例集合以及每个样例是否属于某个概念的标注,怎样推断出该概念的一般定义。又称从样例中逼近布尔函数。–概念学****是指从有关某个布尔函数的输入输出训练样例中推断出该布尔函数。概念学****9例子– enjoy sport ?目标概念, Aldo 进行水上运动的日子,表示为布尔函数 EnjoySport ?任务目的,基于某天的各属性,预测 EnjoySport 的值?一个样例集,每个样例表示为属性的集合 No. Sky AirTemp Humidity Wind Water Forecast EnjoySport 1 Sunny Warm Normal Strong Warm Same Yes 2 Sunny Warm High Strong Warm Same Yes 3 Rainy Cold High Strong Warm Change No 4 Sunny Warm High Strong Cool Change Yes 表2-1 目标概念 EnjoySport 的训练样例 10 ?基本概念–实例 x: 每一个实例使用若干属性表示,相应属性值构成一个实例 No. Sky AirTemp Humidity Wind Water Forecast EnjoySport 1 Sunny Warm Normal Strong Warm Same Yes 2 Sunny Warm High Strong Warm Same Yes 3 Rainy Cold High Strong Warm Change No 4 Sunny Warm High Strong Cool Change Yes 例子– enjoy sport