加权最小二乘法(WLS).doc

文档介绍：加权最小二乘法(WLS)如果模型被检验证明存在异方差性,则需要发展新的方法估计模型,最常用的方法是加权最小二乘法。加权最小二乘法是对原模型加权,使之变成一个新的不存在异方差性的模型,然后采用普通最小二乘法估计其参数。下面先看一个例子。原模型:?????iiixxy22110???,ikikux???ni,,2,1??如果在检验过程中已经知道:2222)()()(uiiiixfuEuD?????,ni,,2,1??即随机误差项的方差与解释变量2x之间存在相关性,模型存在异方差。那么可以用)(2xf去除原模型,使之变成如下形式的新模型:?????iiiiiiixxfxxfxfyxf222121202)(1)(1)(1)(1???iikiikuxfxxf)(1)(122???ni,,2,1??在该模型中,存在222222)()(1))(1())(1(uiiiiiiuExfuxfEuxfD????()即同方差性。于是可以用普通最小二乘法估计其参数,得到关于参数???01,,,?k的无偏的、有效的估计量。这就是加权最小二乘法,在这里权就是)(12ixf。一般情况下,对于模型YX????()若存在:W2)(),(0)(uECovE???????????W?????????????wwwn12?()则原模型存在异方差性。设TDDW????????????????nwwwD?21,???????????????????112111nwwwD?用D1?左乘()两边,得到一个新的模型:DYDXD?????111??()即YX***????该模型具有同方差性。因为)()(),(11****TTEENNCov?????????DDIDDDDWDDDD212112111)(uTuTuTE?????????????????于是,可以用普通最小二乘法估计模型(),得到参数估计量为: