文档介绍：一、协方差矩阵
变量说明:
设为一组随机变量,这些随机变量组成随机向量,每
个随机变量有m个样本,则有样本矩阵
x11
x12
..
x1m
x21
.
..
x2m
M.....
.....
xn1
xn2
一、协方差矩阵
变量说明:
设为一组随机变量,这些随机变量组成随机向量,每
个随机变量有m个样本,则有样本矩阵
x11
x12
..
x1m
x21
.
..
x2m
M.....
.....
xn1
xn2
..
xnm
其中
对应着每个随机向量
X的样本向量,
对应着第i个
随机单变量的所有样本值组成的向量。
单随机变量间的协方差:
随机变量之间的协方差能够表示为
根据已知的样本值能够获得协方差的估计值如下:
能够进一步地简化为:
协方差矩阵:
(5)
其中,进而获得了协方差矩阵表达式.
如果所有样本的均值为一个零向量,则式(5)能够表完成:
补充说明:
1、协方差矩阵中的每一个元素是表示的随机向量
X的不同分量之间的协方差,而不是不同
样本之间的协方差,如元素Cij
就是反应的随机变量
ij
的协方差。
X,X
2、协方差是反应的变量之间的
二阶统计特性,如果随机向量的不同分量之间的有关性很小,
则所得的协方差矩阵几乎是一个
对角矩阵。关于一些特殊的应用场合,为了使随机向量的长
度较小,能够采用主成分剖析的方法
,使变换之后的变量的协方差矩阵完全是一个对角矩阵,
之后就能够舍弃一些能量较小的分量了(对角线上的元素反应的是方差,也就是沟通能量)。
3、必须注意的是,这里所获得的式(5)和式(6)给出的只是随机向量协方差矩阵真切值的
一个估计(即由所测的样本的值来表示的,随着样本取值的不同会发生变化),故而所得的
协方差矩阵是依靠于采样样本的,并且样本的数目越多,样本在总体中的覆盖面越广,则所
得的协方差矩阵越可靠。
4、好像协方差和有关系数的关系同样,我们有时为了能够更直观地知道随机向量的不同分
量之间的有关性终究有多大,还会引入有关系数矩阵.
5、协方差作为描绘X和Y有关程度的量,在同一物理量纲之下有一定的作用,但同样的两
个量采用不同的量纲使它们的协方差在数值上表现出很大的差别。由此引入有关系数。
COV(x,y)
xy
D(x)D(y)
二、有关矩阵(有关系数矩阵)
有关系数:
著名统计学家卡尔·皮尔逊设计了统计指标——有关系数。有关系数是用以反应变量之
,同样以两变量与各自平均值
的离差为基础,经过两个离差相乘来反应两变量之间有关程度;着重研究线性的单有关系数
依据有关现象之间的不同特点,其统计指标的名称有所不同。如将反应两变量间线性
有关关系的统计指标称为有关系数(有关系数的平方称为判断系数);将反应两变量间曲线
有关关系的