文档介绍：spring 2012 邢恩泉第三章多元回归分析:估计使用多元回归分析的动因普通最小二乘法的操作和解释 OLS 估计量的期望值 OLS 估计量的方差 OLS 的有效性:高斯-马尔科夫定理 1 spring 2012 邢恩泉使用多元回归模型的动因实际研究中更多时候对因变量有影响的自变量个数将不只一个,需要进行多元回归例 1: 在对小时工资的研究中,除了教育水平之外,工作经历也是一个显著的影响因素, 因此需要增加自变量个数,建立多元回归模型。 2 0 1 2 exp wage educ er u ? ? ?? ? ?? spring 2012 邢恩泉多元线性回归模型的一般形式其中为截距, 为斜率参数, u为误差项(干扰项)。关键假设: 即不可观测的误差项中的所有因素都与解释变量的任意组合无关,无法观测因素的均值总为 0。3 0 1 1 2 2 ... k k y x x x u ? ???? ????? 1 2 ( , ..., ) k ? ?? 1 2 ( | , ,..., ) 0 k E u x x x ? spring 2012 邢恩泉如何得到 OLS 估计值首先考虑两个自变量的模型: 建模的原理依旧是使得达到最小。要理解 OLS 在做什么,重要的是理解自变量角标的含义。下标 i表示观测序号,这里假设有 n个观测变量。第二个下标只是区别不同自变量的方法。在之前的例子中, 分别表示样本中第 i个人的教育程度和工作经历。 4 0 1 1 2 2 ???? y x x ? ??? ?? 2 0 1 1 2 2 1???( ) n i i i i y x x ? ???? ??? 1 2 , exp i i i i x educ x er ? ? spring 2012 邢恩泉如何得到 OLS 估计值在含有 k个自变量的情形中。在选择估计值时,我们最小化了残差平方和这个最小化问题可以使用多元微积分求解。 OLS 的一阶条件: 5 2 0 1 1 2 2 1???? min ( ... ) n i i i k ik i y x x x ? ????? ????? 2 0 1 1 2 2 12 1 0 1 1 2 2 12 0 1 1 2 2 1 ???? min ( ... ) 0 ???? min ( ... ) 0 ...... ???? min ( ... ) 0 n i i i k ik in i i i i k ik in ik i i i k ik i y x x x x y x x x x y x x x ? ???? ???? ??????? ?????? ?????? ???????? spring 2012 邢恩泉如何得到 OLS 估计值如同简单回归里那样称为 OLS 回归线, 为截距估计值, 为斜率估计值。为了表明已经进行了一个 OLS 回归分析,我们将方程中的 y,x1,x2..xk 用其变量名称取代(如 wage,educ,exper 等) 6 0 1 1 2 2 ?????... k k y x x x ? ???? ???? 0?? 1 2 ???( , ,... ) k ? ?? spring 2012 邢恩泉对 OLS 回归方程的解释估计值具有偏效应或其他情况不变得解释。从方程中我们可以得到所以我们能在给定 x1,x2 的变化时预测 y 值得变化。特别的,当=0 时,有关键是通过把 x2 包含在模型中,我们所得到的 x1 的系数可解释为在其他条件不变的情况下的影响。这正是多元回归分析如此有用的原因所在。 7 1 1 2 2 ??? y x x ? ?? ???? 2x? 1 1 ?? y x ?? ?? spring 2012 邢恩泉例2:小时工资方程我们在 log(wage) 的方程中包括 educ (教育水平), exper (工作经历), 和 tenure( 任现职的任期),估计的方程: 系数意味着,在保持 ed