文档介绍：主讲:鲍军鹏博士西安交通大学电信学院计算机系电子邮箱:@版本:*贝叶斯学****就是基于贝叶斯理论(BayesianTheory)的机器学****方法。贝叶斯法则也称为贝叶斯理论(BayesianTheorem,或BayesianRule,或BayesianLaw),其核心就是贝叶斯公式。**后验概率先验概率先验概率(PriorProbability)先验概率就是还没有训练数据之前,某个假设h(h∈H)的初始概率,记为P(h)。先验概率反映了一个背景知识,表示h是一个正确假设的可能性有多少。如果没有这一先验知识,那么可以简单地将每一候选假设赋予相同的先验概率。*P(d)表示训练数据d的先验概率,也就是在任何假设都未知或不确定时d的概率。P(d|h)表示已知假设h成立时d的概率,称之为类条件概率,或者给定假设h时数据d的似然度(Likelihood)。*后验概率(PosteriorProbability)后验概率就是在数据d上经过学****之后,获得的假设h成立的概率,记为P(h|d)。P(h|d)表示给定数据d时假设h成立的概率,称为h的后验概率。*后验概率是学****的结果,反映了在看到训练数据d之后,假设h成立的置信度。后验概率用作解决问题时的依据。对于给定数据根据该概率做出相应决策,例如判断数据的类别,或得出某种结论,或执行某种行动等等。*P(h|d)随着P(h)和P(d|h)的增长而增长,随着P(d)的增长而减少。即如果d独立于h时被观察到的可能性越大,那么d对h的支持度越小。后验概率是对先验概率的修正。*后验概率P(h|d)是在数据d上得到的学****结果,反映了数据d的影响。这个学****结果是与训练数据相关的。与此相反,先验概率P(h)是与训练数据d无关的,是独立于d的。*注意!