数据挖掘复习题和答案.doc

文档介绍：精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
考虑表中二元分类问题的训练样本集
整个训练样本集关于类属性的熵是多少？
关于这些训练集中a1,a2的信息增益是多少？
对于连续属性a3,计算所有可能的划分的信息增益。
根据信息增益，a1,a2,a3哪个是最佳划分?
根据分类错误率，a1,a2哪具最佳？
根据gini指标，a1,a2哪个最佳？
答1.
P(+) = 4/9 and P(−) = 5/9
−4/9 log2(4/9) − 5/9 log2(5/9) = .
精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
答2：
（估计不考）
答3：
精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
答4: According to information gain, a1 produces the best split.
精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
答5：
For attribute a1: error rate = 2/9.
For attribute a2: error rate = 4/9.
Therefore, according to error rate, a1 produces the best split.
答6：
精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
考虑如下二元分类问题的数据集

精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
，决策树归纳算法会选用哪个属性
gini指标，决策树归纳会用哪个属性？
这个答案没问题
精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
从图4-13可以看出熵和gini指标在[0,]都是单调递增，而[,1]之间单调递减。有没有可能信息增益和gini指标增益支持不同的属性？解释你的理由
Yes, even though these measures have similar range and monotonous
behavior, their respective gains, Δ, which are scaled differences of the
measures, do not necessarily behave in the same way, as illustrated by
the results in parts (a) and (b).
贝叶斯分类
精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
P(A = 1|−) = 2/5 = , P(B = 1|−) = 2/5 = ,
P(C = 1|−) = 1, P(A = 0|−) = 3/5 = ,
P(B = 0|−) = 3/5 = , P(C = 0|−) = 0; P(A = 1|+) = 3/5 = ,
P(B = 1|+) = 1/5 = , P(C = 1|+) = 2/5 = ,
P(A = 0|+) = 2/5 = , P(B = 0|+) = 4/5 = ,
P(C = 0|+) = 3/5 = .
P(A = 0|+) = (2 + 2)/(5 + 4) = 4/9,
P(A = 0|−) = (3+2)/(5 + 4) = 5/9,
P(B = 1|+) = (1 + 2)/(5 + 4) = 3/9,
P(B = 1|−) = (2+2)/(5 + 4) = 4/9,
P(C = 0|+) = (3 + 2)/(5 + 4) = 5/9,
P(C = 0|−) = (0+2)/(5 + 4) = 2/9.
Let P(A = 0,B = 1, C = 0) = K
精选文档，供参考！
页脚下载后可删除，如有侵权请告知删除！
精选文档，供参考！
当的条件概率之一是零，则估计为使用m-估计概率的方法的条件概率是更好的，因为我们不希望整个表达式变为零。
P(A = 1|+) = , P(B = 1|+) = , P(C = 1|+) =