文档介绍：2018/5/4
中国人民大学六西格玛质量管理研究中心
1
多元统计分析
何晓群
中国人民大学出版社
2018/5/4
中国人民大学六西格玛质量管理研究中心
2
第五章主成分分析
目录上页下页返回结束
§ 主成分分析的基本思想与理论
§ 主成分分析的几何意义
§ 总体主成分及其性质
§ 样本主成分的导出
§ 有关问题的讨论
§ 主成分分析步骤及框图
§ 主成分分析的上机实现
2018/5/4
中国人民大学六西格玛质量管理研究中心
3
第五章主成分分析
目录上页下页返回结束
主成分分析(ponents analysis)也称主分量分析,是由霍特林(Hotelling)于1933年首先提出的。主成分分析是利用降维的思想,在损失很少信息的前提下把多个指标转化为几个综合指标的多元统计方法。通常把转化生成的综合指标称之为主成分,其中每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,这就使得主成分比原始变量具有某些更优越的性能。这样在研究复杂问题时就可以只考虑少数几个主成分而不至于损失太多信息,从而更容易抓住主要矛盾,揭示事物内部变量之间的规律性,同时使问题得到简化,提高分析效率。本章主要介绍主成分分析的基本理论和方法、主成分分析的计算步骤及主成分分析的上机实现。
2018/5/4
中国人民大学六西格玛质量管理研究中心
4
目录上页下页返回结束
§ 主成分分析的基本思想与理论
§ 主成分分析的基本思想
§ 主成分分析的基本理论
2018/5/4
中国人民大学六西格玛质量管理研究中心
5
目录上页下页返回结束
§ 主成分分析的基本思想
在对某一事物进行实证研究中,为了更全面、准确地反映出事物的特征及其发展规律,人们往往要考虑与其有关系的多个指标,这些指标在多元统计中也称为变量。这样就产生了如下问题:一方面人们为了避免遗漏重要的信息而考虑尽可能多的指标,而另一方面随着考虑指标的增多增加了问题的复杂性,同时由于各指标均是对同一事物的反映,不可避免地造成信息的大量重叠,这种信息的重叠有时甚至会抹杀事物的真正特征与内在规律。基于上述问题,人们就希望在定量研究中涉及的变量较少,而得到的信息量又较多。主成分分析正是研究如何通过原来变量的少数几个线性组合来解释原来变量绝大多数信息的一种多元统计方法。
2018/5/4
中国人民大学六西格玛质量管理研究中心
6
目录上页下页返回结束
§ 主成分分析的基本思想
既然研究某一问题涉及的众多变量之间有一定的相关性,就必然存在着起支配作用的共同因素,根据这一点,通过对原始变量相关矩阵或协方差矩阵内部结构关系的研究,利用原始变量的线性组合形成几个综合指标(主成分),在保留原始变量主要信息的前提下起到降维与简化问题的作用,使得在研究复杂问题时更容易抓住主要矛盾。一般地说,利用主成分分析得到的主成分与原始变量之间有如下基本关系:
;
2018/5/4
中国人民大学六西格玛质量管理研究中心
7
目录上页下页返回结束
§ 主成分分析的基本思想
通过主成分分析,可以从事物之间错综复杂的关系中找出一些主要成分,从而能有效利用大量统计数据进行定量分析,揭示变量之间的内在关系,得到对事物特征及其发展规律的一些深层次的启发,把研究工作引向深入。
2018/5/4
中国人民大学六西格玛质量管理研究中心
8
目录上页下页返回结束
§ 主成分分析的基本理论
设对某一事物的研究涉及个指标,分别用表示,这个指标构成的维随机向量为。设随机向量的均值为,协方差矩阵为。
对进行线性变换,可以形成新的综合变量,用表示,也就是说,新的综合变量可以由原来的变量线性表示,即满足下式:
()
2018/5/4
中国人民大学六西格玛质量管理研究中心
9
目录上页下页返回结束
§ 主成分分析的基本理论
由于可以任意地对原始变量进行上述线性变换,由不同的线性变换得到的综合变量的统计特性也不尽相同。因此为了取得较好的效果,我们总是希望的方差尽可能大且各之间互相独立,由于
=
而对任给的常数,有
2018/5/4
中国人民大学六西格玛质量管理研究中心
10
目录上页下页返回结束
§ 主成分分析的基本理论
因此对不加限制时,可使任意增大,问题将变得没有意义。我们将线性变换约束在下面的原则之下:
1.
,即:
2.
3. 是的一切满足原则