文档介绍：主成分分析和因子分析在Eviews中的实现
主成分分析〔principal components analysis，简称PCA〕是由霍特林〔Hotelling〕于1933年首先提出的。它通过投影的方法，实现数据的降维，在损失较少数据信息的根底上把多个指标转化为几个有代表意义的综合指标。
主成分分析
2
主成分分析的根本思想
假设对某一问题的研究涉及 p 个指标，记为X1，X2, …, Xp，由这 p 个随机变量构成的随机向量为X=(X1, X2, …, Xp)，设 X 的均值向量为，协方差矩阵为。设Y=(Y1, Y2 , … , Yp)为对 X 进展线性变换得到的合成随机向量，即
〔〕
设i=(i1, i2 , …, ip)，( ), A=(1 , 2 ,…, p)，那么有
〔〕
3
且
〔〕
由式〔〕和式〔〕可以看出，可以对原始变量进展任意的线性变换，不同线性变换得到的合成变量Y的统计特征显然是不一样的。每个Yi 应尽可能多地反映 p 个原始变量的信息，通常用方差来度量“信息〞，Yi 的方差越大表示它所包含的信息越多。由式〔〕可以看出将系数向量i 扩大任意倍数会使Yi 的方差无限增大，为了消除这种不确定性，增加约束条件：
4
为了有效地反映原始变量的信息，Y的不同分量包含的信息不应重叠。综上所述，式〔〕的线性变换需要满足下面的约束：
(1) ，即 ，i =1, 2, …, p。
(2) Y1在满足约束 (1) 即的情况下，方差最大；Y2是在满足约束(1) ，且与Y1不相关的条件下，其方差到达最大；……；Yp是在满足约束(1) ，且与Y1，Y2，…，Y p-1不相关的条件下，在各种线性组合中方差到达最大者。
满足上述约束得到的合成变量Y1, Y2, …, Yp分别称为原始变量的第一主成分、第二主成分、…、第 p 主成分，而且各成分方差在总方差中占的比重依次递减。在实际研究工作中，仅挑选前几个方差较大的主成分，以到达简化系统构造的目的。
5
总体主成分求解及其性质
节中提到主成分分析的根本思想是考虑合成变量的方差大小及其对原始变量波动(方差)的奉献大小，而对于原始随机变量X1，X2，…，Xp，其协方差矩阵或相关矩阵正是对各变量离散程度和相关程度的度量。在实际求解主成分时，一般从原始变量的协方差矩阵或相关矩阵的构造分析出发。
6
1．从协方差矩阵出发求解主成分
设1是任意 p1向量，求解主成份就是在约束条件 下，求 X 的线性函数 使其方差 到达最大，即到达最大，且 ，其中 是随机变量向量X =(X1, X2, …, Xp)的协方差矩阵。设1 ≥ 2 ≥ … ≥ p ≥ 0 为 的特征值，e1 , e2 ,…, ep为 矩阵各特征值对应的标准正交特征向量，那么对于任意的ei 和 ej，有
〔〕
且
〔〕
7
因此
〔〕
当1 = e1 时有
〔〕
此时 到达最大值为1。同理有 并且
〔〕
8
由上述推导得
〔〕
可见Y1, Y2, …, Yp 即为原始变量的 p 个主成份。因此，主成分的求解转变为求 X1, X2, …, Xp 协方差矩阵 的特征值和特征向量的问题。
9
２．主成份的性质
性质1 Y的协方差矩阵为对角阵，即
〔〕
性质2 设=(ij)p×p是随机变量向量 X 的协