文档介绍：第三章主成分分析new
现在学****的是第1页，共113页
主成分分析
主成分回归
立体数据表的主成分分析
现在学****的是第2页，共113页
一项十分著名的工作是美国的统计学家斯通(stone)在1947年关于国民经济的研究。•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
•
现在学****的是第16页，共113页
为了方便，我们在二维空间中讨论主成分的几何意义。 设有n个样品，每个样品有两个观测变量xl和x2，在由变量xl和x2 所确定的二维平面中，n个样本点所散布的情况如椭圆状。由图可以看出这n个样本点无论是沿着xl 轴方向或x2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量xl 的方差和x2 的方差定量地表示。显然，如果只考虑xl和x2 中的任何一个，那么包含在原始数据中的经济信息将会有较大的损失。
现在学****的是第17页，共113页
如果我们将xl 轴和x2轴先平移，再同时按逆时针方向旋转角度，得到新坐标轴Fl和F2。Fl和F2是两个新变量。
现在学****的是第18页，共113页
根据旋转变换的公式：
现在学****的是第19页，共113页
旋转变换的目的是为了使得n个样品点在Fl轴方向上的离 散程度最大，即Fl的方差最大。变量Fl代表了原始数据的绝大 部分信息，在研究某经济问题时，即使不考虑变量F2也无损大局。经过上述旋转变换原始数据的大部分信息集中到Fl轴上，对数据中包含的信息起到了浓缩作用。
现在学****的是第20页，共113页
Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的样本点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要矛盾。
现在学****的是第21页，共113页
§3 主成分的推导及性质
一、两个线性代数的结论
1、若A是p阶实对称阵，则一定可以找到正交阵U，使
其中 是A的特征根。
现在学****的是第22页，共113页
2、若上述矩阵的特征根所对应的单位特征向量为
则实对称阵 属于不同特征根所对应的特征向量是正交的，即有
令
现在学****的是第23页，共113页
二、主成分的推导
（一） 第一主成分
设X的协方差阵为
由于Σx为非负定的对称阵，则有利用线性代数的知识可得，必存在正交阵U，使得
现在学****的是第24页，共113页
其中1， 2，…， p为Σx的特征根，不妨假设1 2 … p 。而U恰好是由特征根相对应的特征向量所组成的正交阵。
下面我们来看，是否由U的第一列元素所构成为原始
变量的线性组合是否有最大的方差。
现在学****的是第25页，共113页
设有P维正交向量
现在学****的是第26页，共113页
当且仅当 时，即 时，有最大的方差 。
因为
现在学****的是第27页，共113页
如果第一主成分的信息不够，则需要寻找第二主成分。
现在学****的是第28页，共113页
（二） 第二主成分
如果第一主成分的信息不够，则寻找第二主成分
因为
现在学****的是第29页，共113页
所以如果取线性变换：
则 的方差次大。
类推
现在学****的是第30页，共113页
写为矩阵形式：
现在学****的是第31页，共113页
§4 主成分的性质
一、方差为所有特征根之和
说明主成分分析把P个随机变量的总方差分解成为P个不相关的随机变量的方差之和。
协方差矩阵的对角线上的元素之和等于特征根之和。
现在学****的是第32页，共113页
二、精度分析
1）贡献率：第i个主成分的方差在全部方差中所占比重 ，称为贡献率 ，因为，第一主成分的方差最大，其贡献率也最大，说明它综合原来P个指标的信息的能力最强 ，其它主成分依次渐弱。
2）累积贡献率：前k个主成分共有多大的综合能力，用这k个主成分的方差和在全部方差中所占比重
来描述，称为累积贡献率。
现在学****的是第33页，共113页
我们进行主成分分析的目的之一是希望用尽可能少的主成分F1，F2，…，Fk（k≤p）代替原来的P个指标。到底应该选择多少个主成分，在实际工作中，主成分个数的多少取决于能够反映原来变量80%以上的信息量为依据，即当累积贡献率≥80%时的主成分的个数就足够了。最常见的情况是主成