文档介绍:第八章对数极大似然估计
EViews包含了一些常用方法,如最小二乘法、非线性最小二乘法、加权最小二乘法、TSLS、GMM、ARIMA、ARCH、GARCH等方法,这些方法可以解决可能遇到的大多数估计问题。但是,我们在研究中也可能会碰到一些不在上述之列的特殊的模型,这些模型可能是现存方法的一个扩展,也可能是一类全新的问题。
为了能解决这些特殊的问题,EViews提供了对数极大似然估计这一工具来估计各种不同类型的模型。对数极大似然估计提供了一个一般的,开放的工具,可以通过这个工具极大化相关参数的似然函数对一大类模型进行估计。
使用对数极大似然估计时,我们用EViews的序列生成器,将样本中各个观测值的对数似然贡献描述为一个未知参数的函数。可以给出似然函数中一个或多个参数的解析微分,也可以让EViews自动计算数值微分。EViews将寻找使得指定的似然函数最大化的参数值,并给出这些参数估计的估计标准差。
在本章,我们将详细论述对数极大似然估计,说明其一般特征。并给出了一些可以使用该方法的具体的例子。
§ 概论
用对数极大似然估计来估计一个模型,主要的工作是建立用来求解似然函数的说明文本。用EViews指定对数极大似然函数的说明是很容易的,因为似然函数的说明只是一系列对序列的赋值语句,这些赋值语句在极大化的过程中被反复的计算。我们所要做的只是写下一组语句,在计算时,这些语句将描述一个包含每个观测值对似然函数贡献的序列。
首先,我们简单地回顾一下线性回归模型的对数极大似然估计方法。考虑多元线性回归模型的一般形式
t =1, 2 , …, T ()
其中k是解释变量个数,T 是观测值个数,随机扰动项
~ ,
那么 yt 服从如下的正态分布:
~ ()
其中
Y 的随机抽取的T个样本观测值的联合概率函数为
()
这就是变量Y 的似然函数。
对似然函数求极大值和对对数似然函数求极大值是等价的,对数似然函数为
()
注意到,我们能将对数似然函数写成所有观测值 t 的对数似然贡献和的形式,
()
这里单个贡献由下面的式子给出:
()
以只含一个解释变量的方程为例。假定知道模型参数的真实值,并且想用EViews产生一个包含每个观测值的贡献的序列。可以将已知的参数赋值给系数向量的c(1)到c(3)元素,然后把下面的赋值语句作为EViews的命令或程序来执行。
Series res = y-c(1)-c(2)*x
Series var = c(3)
Series logL1 = -log(2**var)/2- (res^2/var)/2
前面两行语句描述了用来存储计算时的中间结果的序列。第一个语句创建了残差序列:res,而第二个语句创建了方差序列:var。而序列logL1包含了每个观测值的对数似然贡献的集合。
下面考虑2个变量的例子:
()
这里,x, y, z 是观测序列,而1, 2, 3, 2是模型的参数。有T个观测值的样本的对数似然函数可以写成:
()
这里,是标准正态分布的密度函数。
EViews中的标准正态分布的对数似然函数为
,
将对数似然函数写成所有观测值 t 的对数似然贡献的和的形式:
()
这里每个观测值的贡献由下面的式子给出:
()
将这一例子的对数极大似然函数过程写成下面的赋值语句:
Series res=y-c(1)-c(2)*x-c(3)*z
Series var=c(4)
Series logL1=log(***@dnorm(res/***@sqrt(var)))-log(var)/2
前面两行语句创建了残差序列res和方差序列var,参数c(1), c(2), c(3)代表了回归系数1, 2, 3,c(4)代表了 2,序列logL1包含了每个观测值的对数似然贡献的集合。