文档介绍：微机发展年第期
% !""! *
文章编号: ( )
$""*#)’*$!""!"*#"""%#"(
决策树学****算法的研究
!"#
$%&%’()*+,"%)-&-+,.(%%/%’(,-,0120+(-3*4+5!"#
杨明,张载鸿(北京工业大学计算机学院,北京)
$"""!!
, ( , , )
+,-. /012 34,-.3506781298:;<=>?***@A0>1A>98BB>2>8CD>0E012F8BG=>A710AH10IJD>0E012$"""!!97015
摘要: 是决策树学****的核心算法,为此详细叙述了决策
KL) 是完全的。一棵决策树可以代表一个决定训练例集分
树表示方法和决策树学****算法,特别说明了决策属性的
KL) 类的决策过程,树的每个结点对应于一个属性名或一
选取法则。通过一个学****实例给出该算法第一次选取决策属个特定的测试,该测试在此结点根据测试的可能结果
性的详细过程,并且对该算法进行了讨论。一般情况下,
KL) 对训练例集进行划分。划分出的每个部分都对应于相
算法可以找出最优决策树。
应训练例集子空间的一个分类子问题,该分类子问题
关键词:决策树学****算法;机器学****熵;信息赢取
KL) 可以由一棵决策树来解决。因此,一棵决策树可以看
:
16&3(’)3KL)0M=7>N> 5B8?0=7:8CO>A0M081=?>>B>5?101 JP8? [ ]
G 2 2 作是—个对目标分类的划分和获取策略! 。
,
=70M?>5M81 ;?>M>1=>O=7>>Q;?>MM012:>=78O8CO>A0M081=?>>51O
,
518;=0:0R>OO>A0M081=?>>B>5?10125B28?0=7:8CKL) >M;>A05BBG 算法
>Q;B501>O78S=8M>B>A==7>?>2<B5=0818CO>A0M0815==?0T<=081J < !"#
, 决策树学****是一种归纳学****方法,决策树学****的
U7?8<275101M=51A> =7>;5;>?M78S>O=7>;?8A>O<?>8CM>B>A=6
, 核心算法———算法是在所有可能的决策树空间中
012=7>O>A0M0815==?0T<=08101O>=50B5==7>C0?M==0:> 5MS>BB5M KL)
, 一种自顶向下、贪婪的搜索方法。算法的关键是
O0MA<MM>O=7>万方数据5B28?0=7:JK12>1>?5B=7>8;=0:<:O>A0M081=?>> KL)
确定属性表中可对训练例集进行的最佳分类的
A51T>C8<1OTGKL)5B28?0=7:J ,M WM
: ; ; 属性,即在树的每一个节点上确定一个候选属性,它
7%89+(:& O>A0M081=?>>B>5?1012 5B28?0=7: 8CKL) :5A701> ,
; ; 的测试对训练例的分类最有利[ ]。搜索的假设空
B>5?1012>1=?8;G01C8?:5=0812501 ) KL)
中图分类号: ; 文献标识码: 间是可能的决策树的集合,而搜索目的是构造与
UF$V UF)"$J