文档介绍：第六章极大似然法辨识
思路:构造一个以观测值和未知参数为自变量的似然函数,并通过极大化这个似然函数来获得模型的参数估值。
用极大似然法求估计量
一般步骤:
(1) 构成似然函数L(θ);
(2) 写出lnL(θ);
(3)以θ为自变量求lnL(θ)的导数或偏导数;
(4)令lnL(θ)的导数或偏导数等于零解方程;
例1:已知独立同分布的随机过程,在参数条件下随机变量的概率密度为求参数的极大似然估计。
解设表示随机变量的N个观测值向量,则随机变量在参数条件下的似然函数为
对上式等号两边取对数,可得
求上式对的偏导数,并且令偏导数等于0,可得
因而可得参数的极大似然估计
又由于
故使似然函数达到了最大值。因此是参数的极大似然估计。
例2:设是独立分布随机序列,其概率密度为
式中为待估参数,求的极大似然估计
解设表示随机序列的N个观测值向量,根据题意可得随机变量在参数条件下的似然函数
对上式等号两边取对数,有
求上式对的偏导数并令其为0,可得
因而可得的极大似然估计
考虑到是独立同分布随机变量,则有
式中
故有
可见是无偏估计,又由于
因而又是一致性估计。
以上例子说明,如果随机变量观测值的概率密度函数已知,可以很容易地求出参数的极大似然估计。一般,极大似然估计量都具有良好的渐进性质和无偏性。
但渐进性质是极大似然估计量的普遍特性,而无偏性却不是所有极大似然估计量都具有的性质。
系统参数的极大似然估计
设系统的差分方程为
式中
则可建立向量-矩阵方程