文档介绍：贝叶斯判别
定义：贝叶斯判别属于判别分析中的一种，Bayes 判别和Bayes 估计的思想方法是一样的，假定对研究的对象已经有一定的认识，这种认识常用先验概率来描述，当我们取得一个样本后，就可以用样本来修正已有的先验概率分布，得出后验概率分布，再通过后验概率分布进行各种统计推断。
关键点：
1、贝叶斯判别式假定对研究对象已有一定的认识，这种认识常用先验概率来描述。
2、当取得样本后，就可以用样本来修正已经有的先验概率分布，得出后验概率分布。
3、然后通过后验概率分布，进行各种统计推断。
4、实际上就是使平均误判损失（误判概率与误判损失的结合）ECM达到极小的过程。
1
精选可编辑ppt
最大似然法:用于自变量均为分类变量的情况，该方法建立在独立事件概率乘法定理的基础上，根据训练样品信息求得自变量各种组合情况下样品被封为任何一类的概率。当新样品进入时，则计算它被分到每一类中去的条件概率(似然值)，概率最大的那一类就是最终评定的归类。
距离判别:其基本思想是有训练样品得出每个分类的重心坐标，然后对新样品求出它们离各个类别重心的距离远近，从而归入离得最近的类。最常用的距离是马氏距离，偶尔也采用欧式距离。距离判别的特点是直观、简单，适合于对自变量均为连续变量的情况下进行分类，且它对变量的分布类型无严格要求，特别是并不严格要求总体协方差矩阵相等。
Fisher判别:亦称典则判别，是根据线性Fisher函数值进行判别，通常用于梁祝判别问题，使用此准则要求各组变量的均值有显著性差异。该方法的基本思想是投影，即将原来在R维空间的自变量组合投影到维度较低的D维空间去，然后在D维空间中再进行分类。投影的原则是使得每一类的差异尽可能小，而不同类间投影的离差尽可能大。Fisher判别的优势在于对分布、方差等都没有任何限制，应用范围比较广。另外，用该判别方法建立的判别方差可以直接用手工计算的方法进行新样品的判别，这在许多时候是非常方便的。
2
精选可编辑ppt
主要内容：
1、误判损失与误判概率
3
精选可编辑ppt
2、两总体的Bayes判别
由上面叙述知道，我们要选择样本空间Ω的一个划分：R1和R2=Ω−R1使得平均损失ECM值达到极小。
4
精选可编辑ppt
对于具体问题，如果先验概率或者其比值都难以确定，此时就利用规则（58），同样如误判损失或者其比值都是难以确定，此时就利用规则（59），如果上述两者都难以确定则利用规则（60），最后这种情况是一种无可奈何的办法，当然判别也变得简单：
5
精选可编辑ppt
6
精选可编辑ppt
主要步骤流程图
贝叶斯公式
7
精选可编辑ppt
贝叶斯判别的优、缺点
Bayes判别一般适用：许多时候用户对各类别的比例分布情况有一定的先验信息，比如客户对投递广告的反应绝大多数都是无回音，如果进行判别，自然也应当是无回音的居多。此时，Bayes判别恰好适用。Bayes判别就是根据总体的先验概率，使误判的平均损失达到最小而进行的判别。
其最大优势是可以用于多组判别问题。但是适用此方法必须满足三个假设条件，即各种变量必须服从多元正态分布、各组协方差矩阵必须相等、各组变量均值均有显著性差异，限制条件多。
并且很多数据需要采取主观概率，使得贝叶斯方法难以广泛使用。
通常的效果验证方法如自身验证、外部数据验证、样品二分法、交互验证、Bootstrap法。
8
精选可编辑ppt
引例讲解
2000年国赛A题
DNA序列分类
9
精选可编辑ppt
程序实现
贝叶斯1
tic
clc
clear
a=[;;;];
b=[;;;];
x1=[33;19;44;15];x2=[30;18;46;17];x3=[30;24;50;7];
x4=[47;12;20;32];x5=[36;26;47;12];x6=[39;14;44;14];
x7=[39;11;40;21];x8=[31;18;41;21];x9=[23;23;48;17];
x10=[20;30;45;15];
s1=(x1-a)*(x1-a)'+(x2-a)*(x2-a)'+(x3-a)*(x3-a)'+(x4-a)*(x4-a)'+(x5-a)*(x5-a)'+(x6-a)*(x6-a)'+(x7-a)*(x7-a)'+(x8-a)*(x8-a)'+(x9-a