文档介绍：§5-10、最大熵谱估计
1967年Burg提出,对未知延迟点上的自相关函数值,按最大熵的原则进行外推,克服了经典谱估计中窗函数法,相当于令未用到的自相关或观测数据均为零的假设。故提高了分辨度,尤其适用于短数据的情况。
最大熵准则:
熵-不确定度,最不确定的事件-熵最大。
定义:若随机向量具有概率密度函数则其熵为
熵-方差-相关函数
一维高斯分布
其中
代入熵的定义公式,并注意到得:
N维高斯分布
,表示行列式;
故可得N维高斯分布的熵为:
为方便起见改写熵的定义为:
C-常数,可用来确定量度熵的参考基准或熵的绝对值
N-正整数。
因此令时,N维高斯分布的熵可写为:
显然,要使熵最大,就要使最大。
研究熵与功率谱之间的关系,即已知自相关函数的N+1个值,计算下一个最大延迟之外的自相关函数值。选择的准则就是要使熵最大。由自相关矩阵的正定性,行列式是非负的。要使熵最大,就是使最大,于是有:
由于N+1阶的自相关矩阵可写为:
式中
根据分块矩阵行列式的恒等式:()
于是有:
显然(5-106)式,即将上式对的导数为零,得:
此式为的一次方程,从而求解此式,可得到合适的。同理将此代入,继而可求出。这就是在最大熵的原则下,由已知的N+1个值外推得到,,自相关序列。故可得:B为常数
外推的方法很多,但应该是与已知点上的自相关相符的功率谱中最任意的,即具有最大熵的。这相当于扩大了自相关的信息,故得到的谱估计比传统方法的分辨率高。
当序列无限长时,上述熵的定义会发散,则应采用熵率的定义:
相关图法中有的假设,即为其主要缺陷。
其功率谱估计为:
这里不采用此假设,而是按最大熵的原则即取值最不确定,来选择的值。其数学表达式为:
可以证明最大熵谱估计的表达式为:
式中的系数就是Yule-Walker方程的解。
最大熵谱估计的问题就变成估计这些系数的问题,可以证明最大熵谱估计与AR模型谱估计的是等价的。(有关证明可见陈炳和“随机信号处理”)
§5-11、最大似然谱估计
Capon空间阵列接收数据,线性最小方差,地震、水声信号等。
当信号形式为时,第k 个传感器的接收信号为:
传播延迟,-白噪声过程。该传感器的输出延迟了,再乘以权,于是可得如下形式的输出:
第m 个传感器的输出为:
,且有:
若为互不相关的零均值,方差为的随机过程,则均方功率为:(为信号功率)
若定义,则其采样输出为
其方差为:
式中采样间隔。要使方差在下列约束条件下为最小:
式中
此估计器对x(t)是在高斯环境下进行的,所以此时最大似然估计与最小方差估计一致,即为:
由于为常数,故应使,即为:
易见,估计器参数的选择,是在一定的约束条件(5-119)下,使上式成立。故引入拉格朗日乘子,构造目标函数:
令则可求出:
代入方差表达式得:
当向量中的频率ω等于信号频率时,上式就代表信号功率
当频率ω的值遍及定义域时,上式就可以看作是过程x(t)的功率谱密度的估值。这样就得到了最大似然谱估计的值,为:
可见,自相关函数矩阵--->。
可以证明:最大似然谱估计和最大熵谱估计之间有密切联系,即:最大似然谱估计的倒数等于m=1—p阶的最大熵谱估计的倒数和。
式中为m阶AR模型(最大熵)