文档介绍：第11章主成分分析与因子分析在实际问题中,我们设计调查表,收集到大量指标(变量)数据,但这些指标间通常不是相互独立,而是相关的。此时,为了简化问题,我们就可以运用主成分分析法,在众多的指标中找出少数几个综合性指标,来反映原来指标所反映的主要信息(即,绝大部分的方差),实现简化问题的目的。例如,企业的利润、成本、市场占有率等是明显相关的;某地区的企业数、GDP、物流量、信息量等也是明显相关的;一组青年中人的年龄、身高、肺活量等指标之间,通常也存在着相关性。对这些相关性较强的指标,可通过主成分分析法实现复杂问题的简单化。一、主成分分析基本概念主成分(ponents)分析是把给定的一组变量,通过线性变换,转化为一组不相关的变量。在这种变量的转化过程中,变量的总方差( 的方差之和)保持不变。同时,使具有最大方差,称为第一主成分;具有次大方差,称为第二主成分。依次类推,原来有k个变量,就可以转换出k个主成分。但在实际应用中,为了简化问题,通常不是找出k个主成分,而是找出q(q<k)个主成分就够了,只要这q个主成分反映出原来k个变量的绝大部分的方差就行。kXXX,,,21??kYYY,,,21??1Y2YkXXX,,,21??调查n个个体(样本)在k个指标下的数值(或者用k个指标来评价n个对象),就可得到数据矩阵:n?21????????????nknnkkxxxxxxxxx?????2122221112111X2XkX?)(knXnk??统计描述现在的目的是要求解出,使得即简记为TkYYYY),,,(21??kkXaXaXaY12121111?????kkkkkkXaXaXaY?????2211???????????????????????????????kkkkkkXXaaaaYY??????111111AXY??向量Y 满足如下条件:?指标之间不相关。?方差尽可能大,即对n个对象的分辨率尽可能强,信息损失尽可能的少。iY主成分分析小结: (1)从相关的多个指标中,求出相互独立的多个指标。 (2) 的方差信息不损失,尽可能等同于的方差。X与Y的转换关系为:kXXX,,,21??kYYY,,,21??TkYYYY),,,(21??TkXXXX),,,(21?????????????????????????????????kkkkkkXXaaaaYY??????111111几何解释在下图的坐标中,散点大致为椭圆状。经过线性变换可以得到新的坐标。在椭圆的长轴上,反映出了散点在这个方向的最大方差。在椭圆的短轴上,反映出了散点在这个方向的方差。21XOX??21YOY??1Y2Y1X1Y2X2Y主成分的计算流程步骤一:对矩阵而言(它是k阶的实对称矩阵),首先找到它的k个实特征根。步骤二:相应的k个长度为1的、相互正交的特征向量,即特征向量矩阵为式中,, 。????????????kkkkkbbbbbbbB?????111121),,,(kbbb,,,21?1?jbkkTTIBBBB???)(XCOVTkjjjjbbbb),,,(21??主成分的计算流程步骤三:按如下方法得到主成分:式中,。是相互正交的综合变量。将k个主成分放到一起可得矩阵表达式:iYXbYXbYXbYTkkTT???,,,2211?TkXXXX),,,(21??),,1(kiYi??XBYT????????????????????????????????kkkkkkXXbbbbYY??????111111