文档介绍：第四章其他回归方法
本章讨论加权最小二乘估计,异方差性和自相关一致协方差估计,两阶段最小二乘估计(TSLS),非线性最小二乘估计、广义矩估计(GMM)、多项式分布滞后模型、逐步最小二乘回归、分位数回归和非参数回归。这里的大多数方法在第十二章的联立方程系统中也适用。
本章中某些估计方法中含有AR和MA误差项,这些概念将在第五章中深入介绍。
1
线性回归模型的基本假设
i = 1 , 2 , …, N
在普通最小二乘法中,为保证参数估计量具有良好的性质,通常对模型提出若干基本假设:
;
。即
i = 1 , 2 , …, N
即随机误差项的方差是与观测时点 i 无关的常数;
(序列不相关),即
s ≠ 0, i = 1 , 2 , …, N
2
当随机误差项满足假定1 ~ 4时,将回归模型”称为“标准回归模型”,当随机误差项满足假定1 ~ 5时,将回归模型称为“标准正态回归模型”。如果实际模型满足不了这些假定,普通最小二乘法就不再适用,而要发展其他方法来估计模型。
、同方差的正态分布。即
~
i = 1 , 2 , …, N
。即
j = 1 , 2 , …, k , i = 1 , 2 , …, N
3
古典线性回归模型的一个重要假设是总体回归方程的随机扰动项 ui 同方差,即他们具有相同的方差 2。如果随机扰动项的方差随观测值不同而异,即ui 的方差为i2,就是异方差。用符号表示异方差为E(ui2) = i2 。
异方差性在许多应用中都存在,但主要出现在截面数据分析中。例如我们调查不同规模公司的利润,会发现大公司的利润变化幅度要比小公司的利润变化幅度大,即大公司利润的方差比小公司利润的方差大。利润方差的大小取决于公司的规模、产业特点、研究开发支出多少等因素。又如在分析家庭支出模式时,我们会发现高收入家庭通常比低收入家庭对某些商品的支出有更大的方差。
§ 异方差
4
变量
可支配收入
交通和通讯支出
变量
可支配收入
交通和通讯支出
地区
IN
CUM
地区
IN
CUM
甘肃
山西
宁夏
吉林
河南
陕西
青海
江西
黑龙江
内蒙古
贵州
辽宁
安徽
湖北
海南
新疆
河北
四川
山东
广西
湖南
重庆
江苏
云南
福建
天津
浙江
北京
上海
广东
表1 中国1998年各地区城镇居民平均每人全年家庭可支配收入及交通和通讯支出
单位:元
5
:我们研究人均家庭交通及通讯支出(cum)和可支配收入(in)的关系,考虑如下方程: cumi =0 + 1ini + ui
利用普通最小二乘法,得到如下回归模型:
cumi= -+ ini ()
(-) ()
R2= .=
6
从图形上可以看出,平均而言,城镇居民家庭交通和通讯支出随可支配收入的增加而增加。但是,值得注意的是:随着可支配收入的增加,交通和通讯支出的变动幅度也增大了,可能存在异方差。如果我们把回归方程中得到的残差对各个观测值作图,则可以清楚地看到这一点。
异方差的存在并不破坏普通最小二乘法的无偏性,但是估计量却不是有效的,即使对大样本也是如此,因为缺乏有效性,所以通常的假设检验值不可靠。若怀疑存在异方差或者已经检测到异方差的存在,则必须采取补救措施。否则,将影响模型的所有检验、预测、和应用。
7
§