文档介绍：zf第五章第五章主成分分析主成分分析(ponents Analysis)本章重点本章重点?什么是主成分和主成分分析??理解主成分分析的基本思想和几何意义??理解并掌握基于协方差矩阵或相关系数矩阵求解主成分??如何确定主成分个数??如何解释主成分??掌握运用SPSS软件求解主成分?对软件输出结果进行正确分析2016-9-242zf?多个指标的问题:?1、指标与指标可能存在相关关系信息重叠,分析偏误?2、指标太多,增加问题的复杂性和分析难度如何避免?2016-9- 主成分分析的基本思想一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据,得到了17个反映国民收入与支出的变量要素,例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。在进行主成分分析后,%的精度,用三新变量就取代了原17个变量。根据经济学知识,斯通给这三个新变量分别命名为总收入F1、总收入变化率F2和经济发展或衰退的趋势F3。?更有意思的是,这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入I、总收入变化率?I以及时间t因素做相关分析,得到下表:----------9-245zf主成分分析:将原来具有相关关系的多个指标简化为少数几个新的综合指标的多元统计方法。主成分:由原始指标综合形成的几个新指标。依据主成分所含信息量的大小成为第一主成分,第二主成分等等。主成分与原始变量之间的关系:(1)主成分保留了原始变量绝大多数信息。(2)主成分的个数大大少于原始变量的数目。(3)各个主成分之间互不相关。(4)每个主成分都是原始变量的线性组合。2016-9- 数学模型与几何解释-数学模型?假设我们所讨论的实际问题中,有p个指标,我们把这p个指标看作p个随机变量,记为X1,X2,…,Xp,主成分分析就是要把这p个指标的问题,转变为讨论p个指标的线性组合的问题,而这些新的指标F1,F2,…,Fk(k≤p),按照保留主要信息量的原则充分反映原指标的信息,并且相互独立。?这种由讨论多个指标降为少数几个综合指标的过程在数学上就叫做降维。主成分分析通常的做法是,寻求原指标的线性组合Fi。2016-9-247zf原始指标的线性组合Fi:?满足如下的条件:1、每个主成分的系数平方和为1。即 2、主成分之间相互独立,即无重叠的信息。即 3、主成分的方差依次递减,重要性依次递减ppppppppppXuXuXuFXuXuXuFXuXuXuF?????????????????22112222121212121111122221????ipiiuuu?pjijiFFCovji,,,,,,),(?210???)()(21pFVarFVarFVar????)(Why??AXXXXuuuuuuuuuFPpppppp??????????????????????????????????212122221112112016-9-248zf?假设有n个样品,每个样品有两个观测变量xl和x2,在由变量xl和x2所确定的二维平面中,n个样本点所散布的情况如椭圆状。如图所示: 数学模型与几何解释-几何解释?2F????????????????????????????????????1F1x2x平移、旋转坐标轴2016-9-249zf?由图可以看出这n个样本点无论是沿着xl轴方向或x2轴方向都具有较大的离散性,其离散的程度可以分别用观测变量xl的方差和x2的方差定量地表示。显然,如果只考虑xl和x2中的任何一个,那么包含在原始数据中的经济信息将会有较大的损失。?如果我们将xl轴和x2轴先平移,再同时按逆时针方向旋转?角度,得到新坐标轴Fl和F2。Fl和F2是两个新变量。Fl轴方向上的离散程度最大,即Fl的方差最大。说明变量Fl代表了原始数据的绝大部分信息,即使不考虑变量F2也无损大局。2016-9-2410zf?2x1x1F2F?????????????????????????????????????平移、旋转坐标轴