文档介绍：Ch2 Bayes 决策理论( Bayes 分类器)
主要内容
最小错误率Bayes分类器
最小风险Bayes分类器
引言
模式识别中的分类问题,是跟据待识别对象的观察值将其分到某个类别中去。
采用Bayes分类器的必要要求:
要决策分类的类别数是一定的
各类别的总体概率分布是已知的。
特征向量
模式识别中所讨论的分类问题,有2-类分类与多类分类问题。
最小错误率Bayes决策规则
基本假设:
假设要研究的分类问题有c个类别,各类别状态用ωi表示,i=1,2,…,c; 假设待识别对象的特征向量x所对应的后验概率用P(ωi/x) 是已知的;或者,对应于各个类别的先验概率P(ωi)和类条件给率密度函数p(ωi/x)是已知的。
最小错误率Bayes决策规则
首先看下面的例子:
对细胞进行识别,判断其是正常细胞( 属于ω1 类)还是异常细胞(属于ω2 类)。
直观的说法:
若x属于正常类ω1 类的概率大于x属于异常类ω2 类,则判决x∈ω1;
否则, x∈ω2。
较为严格的说法:
最小错误率Bayes决策规则
若
P(ω1/x)> P(ω2/x) , 则判决x∈ω1;
P(ω1/x)< P(ω2/x) , 则判决x∈ω2.
注意:若仅由先验概率进行决策,就会把所有的细胞都判属正常类。
先验概率:由先验知识在识别前就得到的概率P(ω1)称为状态的先验概率。
最小错误率Bayes决策规则
类条件概率:P(x / ω1).
后验概率:由Bayes公式
得到的条件概率称为状态的后验概率。
最小错误率Bayes决策规则
利用Bayes公式,便可得到下述决策规则:
, 则
进一步的可以改进为:
,则
最小错误率Bayes决策规则
还可以得到下面的后验概率形式的规则:
则
请同学们思考下面的问题:对于多类分类问题,最小错误率Bayes决策规则的形式如何?
最小错误率Bayes决策规则
某医院为了研究癌症的诊断,对一批人做了一次普查,给每人注射了测试针,然后进行统计得到如下的统计数字:
每1000人中有5个癌症病人;
每100个正常人中有1人对测试的反应呈阳性;
每100个癌症病人中有95人对测试的反应呈阳性。
最小错误率Bayes决策规则
正常人群用ω1类表示,癌症病人人群用ω2 类表示以测试结果作为特征,即特征值为阴或阳。根据上述的统计结果,得
问题:王某,测试结果为阳性,诊断结果是什么?