文档介绍：主成分分析
主成分回归
立体数据表的主成分分析
第一页，共一百一十二页。
一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。他曾利用美国1929一1938年各年的数据，得到了17个反映国民收
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
第十五页，共一百一十二页。
为了方便，我们在二维空间中讨论主成分的几何意义。设有n个样品，每个样品有两个观测变量xl和x2，在由变量xl和x2 所确定的二维平面中，n个样本点所散布的情况如椭圆状。由图可以看出这n个样本点无论是沿着xl 轴方向或x2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量xl 的方差和x2 的方差定量地表示。显然，如果只考虑xl和x2 中的任何一个，那么包含在原始数据中的经济信息将会有较大的损失。
第十六页，共一百一十二页。
如果我们将xl 轴和x2轴先平移，再同时按逆时针方向旋转角度，得到新坐标轴Fl和F2。Fl和F2是两个新变量。
第十七页，共一百一十二页。
根据旋转变换的公式：
第十八页，共一百一十二页。
旋转变换的目的是为了使得n个样品点在Fl轴方向上的离散程度最大，即Fl的方差最大。变量Fl代表了原始数据的绝大部分信息，在研究某经济问题时，即使不考虑变量F2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。
第十九页，共一百一十二页。
Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的样本点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。
第二十页，共一百一十二页。
§3 主成分的推导及性质
一、两个线性代数的结论
1、若A是p阶实对称阵，则一定可以找到正交阵U，使
其中是A的特征根。
第二十一页，共一百一十二页。
2、若上述矩阵的特征根所对应的单位特征向量为
则实对称阵属于不同特征根所对应的特征向量是正交的，即有
令
第二十二页，共一百一十二页。
二、主成分的推导
（一）第一主成分
设X的协方差阵为
由于Σx为非负定的对称阵，则有利用线性代数的知识可得，必存在正交阵U，使得
第二十三页，共一百一十二页。
其中1， 2，…， p为Σx的特征根，不妨假设1 2  … p 。而U恰好是由特征根相对应的特征向量所组成的正交阵。
下面我们来看，是否由U的第一列元素所构成为原始
变量的线性组合是否有最大的方差。
第二十四页，共一百一十二页。
设有P维正交向量
第二十五页，共一百一十二页。
当且仅当时，即时，有最大的方差。
因为
第二十六页，共一百一十二页。
如果第一主成分的信息不够，则需要寻找第二主成分。
第二十七页，共一百一十二页。
（二）第二主成分
如果第一主成分的信息不够，则寻找第二主成分
因为
第二十八页，共一百一十二页。
所以如果取线性变换：
则的方差次大。
类推
第二十九页，共一百一十二页。
写为矩阵形式：
第三十页，共一百一十二页。
§4 主成分的性质
一、方差为所有特征根之和
说明主成分分析把P个随机变量的总方差分解成为P个不相关的随机变量的方差之和。
协方差矩阵的对角线上的元素之和等于特征根之和。
第三十一页，共一百一十二页。
二、精度分析
1）贡献率：第i个主成分的方差在全部方差中所占比重，称为贡献率，因为，第一主成分的方差最大，其贡献率也最大，说明它综合原来P个指标的信息的能力最强，其它主成分依次渐弱。
2）累积贡献率：前k个主成分共有多大的综合能力，用这k个主成分的方差和在全部方差中所占比重
来描述，称为累积贡献率。
第三十二页，共一百一十二页。
我们进行主成分分析的目的之一是希望用尽可能少的主成分F1，F2，…，Fk（k≤p）代替原来的P个指标。到底应该选择多少个主成分，在实际工作中，主成分个数的多少取决于能够反映原来变量80%以上的信息量为依据，即当累积贡献率≥80%时的主成分的个数就足够了。