文档介绍：加权最小二乘法 (WLS)
如果模型被检验证明存在异方差性，
则需要发展新的方法估计模型，
最常用的方法是加
权最小二乘法。
加权最小二乘法是对原模型加权，
使之变成一个新的不存在异方差性的模型，
然后采用
普通最小二乘法估计其参数。下面先看一个例子。
原模型： yi
0
1 x1i
2 x2i
，
k xki
ui
i 1,2, , n
如果在检验过程中已经知道：
D(ui
)
E(ui
2 )
2
i
f (x2i
)
2
u
,
i
1,2,
, n
即随机误差项的方差与解释变量
x2 之间存在相关性，
模型存在异方差。 那么可以用
f ( x2 )
去除原模型，使之变成如下形式的 新模型：
1
1
1
x1i
1
x2i
yi
0
1
2
f ( x2i )
f ( x2i )
f (x2i )
f ( x2i )
1
1
ui
i
1,2,
, n
k
xki
f ( x2i ) f ( x2i )
在该模型中，存在
D(
1
u
) E(
1
u ) 2
1
E(u
2 )
2
()
f (x2i )
i
f (x2i )
i
f (x
2i )
i
u
即同方差性。 于是可以用普通最小二乘法估计其参数，
得到关于参数
0 , 1 ,
, k 的无偏的、
有效的估计量。这就是加权最小二乘法，在这里权就是 1 。
f ( x2 i )
一般情况下，对于模型
Y X
()
若存在：
E( )
0
Cov( ,
) E(
)
u2 W
w1
W
w2
()
wn
则原模型存在 异方差性 。设
W
DDT
w1
w1
1
w2
,
1
D
D 1
w2
wn
1
wn
用 D
1 左乘 ()
两边，得到一个新的模型：
D 1 Y
D 1X
D 1
()
即
Y *
X *
*
该模型具有同方差性。因为
(
* ,
N
* )
E
( *
* T )
(
D
1