文档介绍：判别分析1、距离判别?两个总体的距离判别?判别准则的评价?多个总体的距离判别2、Bayes判别?Bayes判别的基本思想?两个总体的Bayes判别?多个总体的Bayes判别Xi’an University of Post and munications2 两个总体协方差矩阵不等的情况1 2???11 221 22 11 1 1 12 12 2 2 22 212 1222,( , ) ( , ),( , ) ( , )( ) ( ) ( ) ( ) ( ) ( ),( ) ( ),(TTx Gd x G d x Gx Gd x G d x Gd x x xd x x xx Gd x d xx Gd x? ?? ??????????? ???? ?????????我们前面已经讲过,两个总体的距离判别准则为:若若这时若令则距离判别准则变为若若21) ( )d x?Xi’an University of Post and munications2 21 2( ) ( )d x d x x G Gx? ?? ?1 21 2 1 2其中 , 分别是样品到两个总体, 的马氏平方距离,它们都是的二次函数,称为二次判别函数。在实际应用中, , , , 往往未知,它们可以用各总体的训练样本做估计。Xi’an University of Post and 判别准则的评价在一定判别准则下,将一个样品判错的概率称为该判别准则的误判概率,简称为误判率。若不考虑误判造成的损失,一个判别准则的误判概率的大小自然是评价其优劣的一个标准。但是要直接计算一个判别准则的误判率,一般需要各总体的分布完全已知,这在实际中常常是不可能的,因为我们所具有的资料只是来自各总体的训练样本数据。因此一个可行的做法就是基于训练样本对误判率进行估计。最常用的两种误判率的估计方法有两种:回代估计法,交叉确认估计法。下面我们逐个介绍。Xi’an University of Post and munications误判率回代估计法1 2(1) (1) (1) (2) (2) (2)1 2 1 2 1 21 2 1 11 212 12 21 2 112 21+n nG G x x x x x xG G n nn nn GG n G Gn n?? ?设为两个总体, , , , 和, , ,是分别来自和的训练样本,其容量分别为和。以全体训练样本作为个新样品。逐个代入已经建立的判别准则中判别其归属,这个过程称为回判。如果是将属于的样品误判为属于的个数, 是将属于的样品误判为属于的个数,总的误判个数为,*12 211 21 2+?rn nn n pn n? ??而两总体的训练样品的总数为,误判率的回代估计为Xi’an University of Post and munications***???rrrppp误判率的回代估计比较容易计算,但是是由建立判别函数的数据反过来用作评估准则的数据而得到的,因此往往比真实误判率小,只有当训练样本容量较大时, 可以作为真实误判率的一种近似估计。Xi’an University of Post and munications误判率的交叉确认估计法1 21n n? ?误判率的交叉确认估计是每次剔除训练样本中的一个样品,利用其余容量的训练样本建立相应判别准则,再用所建立的判别准则对剔除的那个样品作判别。对训练样本中的每个样品作上述分析,以其误判的比例作为误判概率的估计。具体步骤如下:Xi’an University of Post and municationsXi’an University of Post and munications由交叉确认估计法所得到的估计称为误判率的交叉确认估计。此方法较回代估计法更合理。