主成分分析_从一维到多维_上传.ppt

文档介绍：主成分分析(PCA)
——从一维到多维
引言
提纲
主成分分析(PCA)
二维主成分分析(2DPCA)
总结
多维主成分分析(MPCA)
基因数据
引言:高维数据
人脸图像数据
数字手写体数据
……
其他数据
降维——从3维到2维
?
高维数据的降维技术
如何挖掘高维数据中隐藏的知识
高维数据
内蕴知识
……
线性鉴别分析(LDA)
流形学习(ML)
主成分分析(PCA)
Linear transformation
Original data
reduced data
线性降维技术数学模型
主成分分析(PCA)
[1 ] L. Sirovich and M. Kirby, “Low-Dimensional Procedure for Characterization of Human Faces,” J. Optical Soc. Am., vol. 4, pp. 519-524, 1987.
[2 ] M. Kirby and L. Sirovich, “Application of the KL Procedure for the Characterization of Human Faces,” IEEE Trans. Pattern Analysis and Machine Intelligence, vol. 12, no. 1, pp. 103-108, Jan. 1990.
[3 ] M. Turk and A. Pentland, “Eigenfaces for Recognition,” J. Cognitive Neuroscience, vol. 3, no. 1, pp. 71-86, 1991.
参考文献
主成分分析(ponent Analysis, 简称PCA)
是将多个变量通过线性变换以选出较少个数重要变量(主成分)的一种多元统计分析方法。
确定主成分权重系数的过程就可以看作是主成分分析的过程
主成分分析的概念
均值
方差
标准差
假设有n个D维的样本: ,则:
基本数学概念