文档介绍：第五章主成分分析
在对某一事物进行实证研究中,为了更全面、准确地反映出事物的特征及其发展规律,人们往往要考虑与其有关系的多个指标(变量),例如多元回归分析,判别分析。选择多个指标容易产生了如下问题:
一方面人们为了避免遗漏重要的信息而考虑尽可能多的指标,
另一方面随着考虑指标的增多增加了问题的复杂性,同时由于各指标均是对同一事物的反映,不可避免地造成信息的大量重叠,这种信息的重叠有时甚至会抹杀事物的真正特征与内在规律。
第五章主成分分析
基于上述问题,人们就希望在定量研究中涉及的变量较少,而得到的信息量又较多。那么有什么解决方法呢?
方法1 直接删除变量法
方法2 逐步法删选变量。例如:逐步回归法和逐步判别法
方法3 指标系统聚类法
方法4 主成分分析法,例如:主成分回归等
下面来学****主成分分析的相关理论
第五章主成分分析
主成分分析(ponents analysis)也称主分量分析,是由霍特林(Hotelling)于1933年首先提出的。
主成分分析是利用降维的思想,在损失很少信息的前提下把多个指标转化为几个综合指标的多元统计方法。
通常把转化生成的综合指标称之为主成分,其中每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,这就使得主成分比原始变量具有某些更优越的性能。
第五章主成分分析
在研究复杂问题时就可以只考虑少数几个主成分而不至于损失太多信息,从而更容易抓住主要矛盾,揭示事物内部变量之间的规律性,同时使问题得到简化,提高分析效率。
第五章主成分分析
本章主要介绍主成分分析的基本理论和方法、主成分分析的计算步骤及主成分分析的上机实现。
学****目标
;
;
;
;
。
第五章主成分分析
本章内容安排
§ 主成分分析的基本思想与理论
§ 主成分分析的几何意义
§ 总体主成分及其性质
§ 样本主成分的导出
§ 有关问题的讨论
§ 主成分分析步骤及框图
§ 主成分分析的上机实现
§ 主成分分析的基本思想与理论
§ 主成分分析的基本思想
§ 主成分分析的基本理论
§ 主成分分析的基本思想
主成分分析是利用降维的思想,在损失很少信息的前提下把多个指标转化为几个综合指标的一种多元统计方法。
主成分分析正是研究如何通过原来变量的少数几个线性组合来解释原来变量绝大多数信息的一种多元统计方法。
既然研究某一问题涉及的众多变量之间有一定的相关性,就必然存在着起支配作用的共同因素,根据这一点,通过对原始变量相关矩阵或协方差矩阵内部结构关系的研究,利用原始变量的线性组合形成几个综合指标(主成分),在保留原始变量主要信息的前提下起到降维与简化问题的作用,使得在研究复杂问题时更容易抓住主要矛盾。
§ 主成分分析的基本思想
一般地说,利用主成分分析得到的主成分与原始变量之间有如下基本关系:
;
;
;
通过主成分分析,可以从事物之间错综复杂的关系中找出一些主要成分,从而能有效利用大量统计数据进行定量分析,揭示变量之间的内在关系,得到对事物特征及其发展规律的一些深层次的启发,把研究工作引向深入。
§ 主成分分析的基本理论
设对某一事物的研究涉及个指标,分别用表示,这个指标构成的维随机向量为
设随机向量的均值为,协方差矩阵为。
对进行线性变换,可以形成新的综合变量,用表示,也就是说,新的综合变量可以由原来的变量线性表示,即满足下式: