文档介绍:第三章多元线性回归模型
多元线性回归模型概念
多元线性回归模型的参数估计
多元线性回归模型的统计检验
非线性回归模型
案例
引言
实际经济问题中,由于社会经济现象的复杂性,一个经济变量的变动往往不只受一个因素影响,而常常受到多个因素的影响,例如,某种商品的需求量,不但取决于该商品的价格,还取决于消费者的收入,以及其它相关商品的价格、消费者的偏好等因素的影响。
在这些被解释变量受多因素影响的情况下,仅用一元线性回归模型显然就不能满足要求,因此需要引入含有两个或两个以上解释变量的多元线性回归模型。
第一节、多元线性回归模型的概念
在计量经济学中,将含有两个以上解释变量的回归模型叫做多元回归模型,相应地,在此基础上进行的回归分析就叫多元回归分析。
如果总体回归函数描述了一个被解释变量与多个解释变量之间的线性关系,由此而设定的回归模型就称为多元线性回归模型。
假定被解释变量Y与K个解释变量X1,X2,……Xk存在线性相关关系:
(i=1,2,…,N )
称为总体线性回归模型
一、总体线性回归模型
其中:
为截距项,代表排除在模型之外的所有因素对被解释变量Y的平均影响;
(j=1,2…k)为偏回归系数,反映了在其它解释变量保持不变的情况下,解释变量Xj变化一个单位时,对被解释变量Y的影响程度。ui为随机扰动项。
因此,对应于解释变量的每一组观察值(X1i,X2i…,Xki),被解释变量Yi的值是随机的。
总体线性回归函数
把被解释变量Yi的总体条件期望与解释变量X1,X2,…,Xk存在的线性关系式:
E(Y/ X1i,X2i…,Xki)=
称为K元线性总体线性回归函数。
特别的,当K=2时,二元线性总体回归模型的形式为:
二元线性总体回归函数形式为:
二、多元线性样本回归模型
K元线性样本回归函数表达式为:
其中,是总体均值的估计
多元线性样本回归模型表达式为:
其中,残差项ei是随机扰动项ui的估计。
特别地,当K=2时,二元线性样本回归函数为
二元线性样本回归模型为:
二元线性样本回归函数几何图形表示
图3-1 回归平面示意图
三、多元线性回归模型的基本假定
,即E(ui)=0(i=1,2,…,n)亦即,误差项无偏性假定;
,即 i =1,2,…,n
,即cov(ui,uj)=0,(i≠j; i,j=1,2,…n)
(j=0, 1…k)都不相关,即Cov(Xji ui)=0,若X1…Xk是非随机变量,则由假定1可推得假定4,因Xji是重复抽样取得的固定数值,因此该假定自动满足。
:随机扰动项ui服从正态分布:ui~N(0, )
:也就是各解释变量之间不存在严格的线性关系,或者说各解释变量之间线性无关;亦即解释变量之间不存在精确的线性关系,即是说不存在一列不全为0的数,能使下式成立:
反之,如果仅当,上式才成立,就说变量是线性无关的。
满足基本假定的模型称为古典线性回归模型。
三、多元线性回归模型的基本假定
第二节多元线性回归模型的参数估计
对二元线性回归模型做最小二乘估计:在总体N组观察值中,随机的抽取n个样本,使
即,
仍用求极值的方法,先求的偏导数,并使各个偏导数等于零,即得3个方程的方程组:
一、参数的最小二乘估计