1 / 29
文档名称:

判别分析3贝叶斯判别.ppt

格式:ppt   大小:332KB   页数:29页
下载后只包含 1 个 PPT 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

判别分析3贝叶斯判别.ppt

上传人:1557281760 2021/12/6 文件大小:332 KB

下载得到文件列表

判别分析3贝叶斯判别.ppt

文档介绍

文档介绍:判别分析3贝叶斯判别
距离判别只要求知道总体的特征量(即参数)---
均值和协差阵,不涉及总体的分布类型. 当参数未知时,就用样本均值和样本协差阵来估计.
距离判别方法简单,结论明确,:
1. 该判别法与各总体出现的时机大小(先验概率)完全无关;
2. 判别方法没有考虑错判造成的损失,这是不合理的.
Bayes判别法正是为解决这两方面问题而提出的判别方法.
贝叶斯〔 Bayes 〕判别
Bayes的统计思想总是假定对所研究的对象已有一定的认识,常用先验概率分布来描述这种认识 .然后我们抽取一个样本,用样本来修正已有的认识(先验概率分布),得到后验概率分布.
.
在正态总体的假设下,按Bayes判别的思想,在错判造成的损失认为相等情况下得到的判别函数其实就是马氏距离判别在考虑先验概率及协差阵不等情况下的推广.
所谓判别方法,就是给出空间Rm的一种划分:D={D1,D2,…,Dk}.一种划分对应一种判别方法,不同的划分就是不同的判别方法.
Bayes判别法也是给出空间Rm的一种划分.
设有k个总体G1,G2,…,Gkk个总体各自出现的概率(验前概率)为q1,q2,…,qk
(显然qi0,q1+q2+…+qk=1).
比方研究人群中得癌(G1)和没有得癌(G2)两类群体的问题,由长期经历知:q1=,q2q1,…,qk (比例).所谓“先验〞是指先于我们抽取样品作判别分析之前.
Bayes判别准那么要求给出qi(i=1,2,…,k)的值.
qi的赋值方法有以下几种:
= q1,而P(无癌)= = q2 .
 (b) 利用训练样本中各类样品占的比例ni/n做为qi的值,即qi=ni/n(i=1,…,k),其中ni是第i类总体的样品个数,而n=n1+ n2 + … + nk .这时要求训练样本是通过随机抽样得到的,各类的样品被抽到的时机大小就是验前概率.
 (c) 假定q1=q2=…=qk=1/k.
§ 贝叶斯准那么
问题:
待判样品X属于哪一类??
判别方法是,先由贝叶斯准那么计算待判样品 来
自 个总体的条件概率〔也称后验概率〕为
                    
〔〕
 
式中, ——归入第 总体的先验概率,  时为 。
未知
§ 贝叶斯准那么
问题:待判样品X属于哪一类??
对于诸总体,显然分母〔全概率〕都是一样的,因此只要比较式分子的大小,即可判断条件概率的大小,进而对待判样品作出归类。
那么X属于第t个总体。
§ 贝叶斯准那么
不妨设 ,那么待判样品 就归入第 类总体  。
因此式〔〕称为判别函数,按照条件概率最大进展归类的准那么,称为贝叶斯判别准那么。
在式〔〕中,为了给出判别函数
的具体表达式,下面以 服从多元正态分布情况来讨论。
设  是第 类总体第 个样品第 个变量的观测值,且各总体样品都是相互独立的正态随机向量,即
§ 判别函数