协方差矩阵和相关矩阵.pdf

文档介绍：一、协方差矩阵
变量说明：
设 为一组随机变量，这些随机变量构成随机向量 ，
每个随机变量有 m 个样本，则有样本矩一、协方差矩阵
变量说明：
设 为一组随机变量，这些随机变量构成随机向量 ，
每个随机变量有 m 个样本，则有样本矩阵

x x . . x 
11 12 1m
x . . . x 
 21 2m 
M   . . . . . 
 
 . . . . . 
x x . . x 
 n1 n2 nm 
其中 对应着每个随机向量 的样本向量， 对应着第 个
X i
随机单变量的所有样本值构成的向量。
单随机变量间的协方差：
随机变量 之间的协方差可以表示为

根据已知的样本值可以得到协方差的估计值如下：

可以进一步地简化为：

协方差矩阵：（5）
其中 ，从而得到了协方差矩阵表达式。
如果所有样本的均值为一个零向量，则式（5）可以表达成：

补充说明：
1、协方差矩阵中的每一个元素是表示的随机向量 X 的不同分量之间的协方差，而不是不同
样本之间的协方差，如元素 就是反映的随机变量 的协方差。
Cij Xi, Xj
2、协方差是反映的变量之间的二阶统计特性，如果随机向量的不同分量之间的相关性很小，
则所得的协方差矩阵几乎是一个对角矩阵。对于一些特殊的应用场合，为了使随机向量的长
度较小，可以采用主成分分析的方法，使变换之后的变量的协方差矩阵完全是一个对角矩阵，
之后