文档介绍：第六章主成分分析
第一节主成分分析的原理
第二节主成分的几何意义及求解
第三节主成分的性质
第四节主成分方法应用中应注意的问题
第五节实例分析与计算机实现
1
第一节主成分分析的原理
多元统计分析处理的是多变量(多指标)问题。由于变量较多,增加了分析问题的复杂性。但在实际问题中,变量之间可能存在一定的相关性,因此,多变量中可能存在信息的重叠。人们自然希望通过克服相关性、重叠性,用较少的变量来代替原来较多的变量,而这种代替可以反映原来多个变量的大部分信息,这实际上是一种“降维”的思想。
利用这种“降维”的思想,诞生了“主成分分析”、“因子分析”、“典型相关分析”和“偏最小二乘回归”等统计方法。
2
主成分分析的基本思想
主成分分析(ponents analysis),也称主分量分析、主轴分析,是由Hotelling于1933年首先提出的。由于多个变量之间往往存在着一定程度的相关性。人们自然希望通过线性组合的方式,从这些指标中尽可能快地提取信息。
当这些自变量的第一个线性组合不能提取更多的信息时,再考虑用第二个线性组合继续这个快速提取的过程,……,直到所提取的信息与原指标相差不多时为止。这就是主成分分析的思想。
一般说来,在主成分分析适用的场合,用较少的主成分就可以得到较多的信息量。以各个主成分为分量,就得到一个更低维的随机向量;因此,通过主成分既可以降低数据“维数”又保留了原数据的大部分信息。
3
:斯通关于国民经济的研究
一项十分著名的工作是美国的统计学家斯通(Stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据,得到了17个反映国民收入与支出的变量要素,例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息外贸平衡等等。
在进行主成分分析后,%的精度,用三个新变量就取代了原17个变量。根据经济学知识,斯通给这三个新变量分别命名为总收入F1、总收入变化率F2和经济发展或衰退的趋势F3。更有意思的是,这三个变量其实都是可以直接测量的。斯通将他得到的主成分与实际测量的总收入i、总收入变化率i以及时间t因素做相关分析,得到下表:
4
F1
F2
F3
i
i
t
F1
1
F2
0
1
F3
0
0
1
i
-
l
i
-
-
-
l
t
-
-
-
-
-
1
5
主成分分析的数学表达
6
主成分分析的数学表达
8
当一个变量只取一个数据时,这个变量提供的信息量是非常有限的,当这个变量取一系列不同数据时,我们可以从中读出最大值、最小值、平均数等信息。变量的变异性越大,说明它对各种场景的“遍历性”越强,提供的信息就更加充分,信息量就越大。
主成分分析中的信息,就是指主成分Yi的变异性,用方差D(Y)或D(Yi)表示。
主成分分析的数学表达
9
主成分分析的数学表达
?
10