文档介绍：主元分析(PCA)理论分析及应用(主要基于外文教程翻译)什么是PCA?ponentanalysis的缩写,中文翻译为主元分析。它是八种对数据进行分析的技术,最重要的应用是对原有数据进行简化。正如它的名字:主元分析,这种方法可以冇效的找出数据屮最“主要”的元索和结构,去除噪音和兀余,将原有的复杂数据降维,揭示隐藏在复杂数据背示的简单结构。它的优点是简单,而且无参数限制,可以方便的丿应用与各个场合。因此应用极其广泛,从神经科学到计算机图形学都有它的用武之地。被誉为应用线形代数最价值的结果乙一。在以下的章节中,不仅有对PCA的比较直观的解释,同时也配有较为深入的分析。首先将从一个简单的例了开始说明PCA应用的场合以及想法的由来,进行一个比较直观的解释;然后加入数学的严格推导,引入线形代数,进行问题的求解。随后将揭示PCA与SVD(position)^间的联系以及如何将Z应用于真实界。最丿不将分析PCA理论模型的假设条件以及针对这些条件可能进行的改进。一个简单的模型在实验科学屮我常遇到的情况是,使用大量的变量代表可能变化的因素,例如光谱、电压、速度等等。但是rh于实验环境和观测手段的限制,实验数据往往变得极其的复杂、混乱和兀余的。如何对数据进行分析,取得隐藏在数据背后的变量关系,是一个很困难的问题。在神经科学、气象学、海洋学等等学科实验屮,假设的变量个数可能非常Z多,但是真正的影响因索以及它们之间的关系可能又是非常Z简单的。下面的模型取H—个物理学屮的实验。它看上去比较简单,但足以说明问题。如图表错误!未定义书签。所示。这是一个理想弹簧运动规律的测定实验。假设球是连接在一个无质量无摩擦的弹簧之上,从平衡位置沿尢轴拉开一定的距离然后释放。图表错误!未定义书签。对于一个具有先验知识的实验者来说,这个实验是非常容易的。球的运动只是在x轴向上发生,只需要记录下尤轴向上的运动序列并加以分析即可。但是,在真实世界屮,对于第一次实验的探索者来说(这也是实验科学屮最常遇到的一种情况),是不可能进行这样的假设的。那么,一般来说,必须记录下球的三维位置(尢0,儿”0)。这一点可以通过在不同角度放置三个摄像机实现(如图所示),假设以200Hz的频率拍摄呦面,就可以得到球在空间屮的运动序列。但是,由于实验的限制,这三台摄像机的角度可能比较任意,并不是正交的。事实上,在真实世界屮也并没有所谓的轴,每个摄像机记录下的都是一幅二维的图像,有其自己的空间坐标系,:〔(©,儿),(蛰儿),(乞,儿)1。经过实验,系统产生了几分钟内球的位置序列。怎样从这些数据屮得到球是沿肴某个兀轴运动的规律呢?怎样将实验数据中的兀余变量剔除,化归到这个潜在的x轴上呢?这是一个真实的实验场景,数据的噪音是必须面对的因素。在这个实验中噪音可能来自空气、摩擦、摄像机的谋羌以及非理想化的弹簧等等。噪音使数据变得混乱,掩盖了变量间的真实关系。如何去除噪音是实验者每天所要面对的巨大考验。上血提出的两个问题就是PCA方法的H标。PCA主元分析方法是解决此类问题的一个有力的武器。下文将结合以上的例了提出解决方案,逐步叙述PCA方法的思想和求解过稈。线形代数:基变换从线形代数的角度来看,PCA的目标就是使用另一组基去重新描述得到的数据空间。而新的基要能尽量揭示原有的数据间的关系。在这个例了屮,沿着某兀轴上的运动是最重要的。这个维度即最重要的“主元”。PCA的目标就是找到这样的“主元”,最大稈度的去除兀余和噪音的干扰。,需要将上文的数据进行明确的定义。在上面描述的实验过程屮,在每一个采样时间点上,每个摄像机记录了一组二维坐标(心,儿),综合三台摄像机数据,在每一个时间点上得到的位置数据对应于一个六维列向量。£>4x=Xb九XC丿c_如果以200Hz的频率拍摄10分钟,将得到10x60x200=120000个这样的向量数据。抽象一点来说,每一个采样点数据文都是在加维向量空问(此例屮皿=6)内的一个向量,这里的加是牵涉的变量个数。由线形代数我们知道,在加维向量空间中的每一个向量都是一组止交基的线形组合。最普通的一组正交基是标准正交基,实验采样的结果通常可以看作是在标准正交基下表示的。举例来说,上例屮每个摄像机记录的数据坐标为(心,儿),{止返)(虫虫)}这样的基便是{(1,0),(0,1)}。那为什么不取2,2,2,2或是其他任意的基呢?原因是,这样的标准止交基反映了数据的采集方式。假设采集数据点是(厶2),—般并不会记录(2血,0)(在H2'22'2基下),因为一般的观测者部是****惯于取摄像机的屏幕坐标,即向上和向右的方向作为观测的基准。也就是说,标准正交基表现了数据观测的一般方式。在线形代数屮,这组基表示为行列向量线形无关的单位矩阵。~bl~"