文档介绍:: .
1、
机器学习中,决策树是一个预测模型;他代表的是对象属性与对象值之间的一种映射关系。
树中每个节点表示某个对象,而每个分叉路径则代表的某个可能的属性值,而每个叶结点则
对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出,若欲有复
数输出,可以建立独立的决策树以处理不同输出。
从数据产生决策树的机器学习技术叫做决策树学习, 通俗说就是决策树。
决策树学习也是数据挖掘中一个普通的方法。在这里,每个决策树都表述了一种树型结构,
他由他的分支来对该类型的对象依靠属性进行分类。每个决策树可以依靠对源数据库的分割
进行数据测试。这个过程可以递归式的对树进行修剪。 当不能再进行分割或一个单独的类
可以被应用于某一分支时,递归过程就完成了。另外,随机森林分类器将许多决策树结合起
来以提升分类的正确率。
决策树同时也可以依靠计算条件概率来构造。决策树如果依靠数学的计算方法可以取得更加
理想的效果。
决策树是如何工作的
决策树一般都是自上而下的来生成的。
选择分割的方法有好几种,但是目的都是一致的:对目标类尝试进行最佳的分割。
从根到叶子节点都有一条路径,这条路径就是一条“规则”。
决策树可以是二叉的,也可以是多叉的。
对每个节点的衡量:
1) 通过该节点的记录数
2) 如果是叶子节点的话,分类的路径
3) 对叶子节点正确分类的比例。
有些规则的效果可以比其他的一些规则要好。
由于 ID3 算法在实际应用中存在一些问题,于是Quilan 提出了 算法, 只
能是 ID3 的一个改进算法。相信大家对ID3 ,这里就不做介绍。
算法继承了 ID3 算法的优点,并在以下几方面对ID3 算法进行了改进:
1) 用信息增益率来选择属性,克服了用信息增益选择属性时偏向选择取值多的属性的
不足;
2) 在树构造过程中进行剪枝;
3) 能够完成对连续属性的离散化处理;
4) 能够对不完整数据进行处理。
算法有如下优点:产生的分类规则易于理解,准确率较高。其缺点是:在构造树的
过程中,需要对数据集进行多次的顺序扫描和排序,因而导致算法的低效。此外, 只适
合于能够驻留于内存的数据集,当训练集大得无法在内存容纳时程序无法运行。
来自搜索的其他内容: