文档介绍：第二章回归分析基本方法
第一页，本课件共有48页
§ 回归分析概述
一、变量间的关系及回归分析的基本概念
二、一元总体回归函数
三、随机扰动项
四、一元样本回归函数（SRF）
第二页，本课件共有48页
§线。该线称为一元样本回归线（sample regression lines）。
记样本回归线的函数形式为：
称为一元样本回归函数（sample regression function，SRF）。
第十四页，本课件共有48页
这里将样本回归线看成总体回归线的近似替代
则
注意：
第十五页，本课件共有48页
样本回归函数的随机形式/样本回归模型：
同样地，样本回归函数也有如下的随机形式：
由于方程中引入了随机项，成为计量经济模型，因此也称为一元样本回归模型（sample regression model）。
第十六页，本课件共有48页
▼回归分析的主要目的：根据样本回归函数SRF，估计总体回归函数PRF。
注意：这里PRF可能永远无法知道。
即，根据
估计
第十七页，本课件共有48页
§ 线性回归模型
一、多元线性回归模型
二、多元线性回归模型的基本假定
第十八页，本课件共有48页
一、多元线性回归模型
多元线性回归模型:表现在线性回归模型中的解释变量有多个。
一般表现形式：
i=1,2…,n
其中:k为解释变量的数目，j称为回归参数（regression coefficient）。
****惯上：把常数项看成为一虚变量的系数，该虚变量的样本观测值始终取1。这样：
模型中解释变量的数目为（k+1）
第十九页，本课件共有48页
也被称为总体回归函数的随机表达形式。它的非随机表达式为:
方程表示：各变量X值固定时Y的平均响应。
j也被称为偏回归系数，表示在其他解释变量保持不变的情况下，Xj每变化1个单位时，Y的均值E(Y)的变化;
或者说j给出了Xj的单位变化对Y均值的“直接”或“净”（不含其他变量）影响。
第二十页，本课件共有48页
总体回归模型n个随机方程的矩阵表达式为
其中
第二十一页，本课件共有48页
样本回归函数：用来估计总体回归函数
其随机表示式:
ei称为残差或剩余项(residuals)，可看成是总体回归函数中随机扰动项i的近似替代。
样本回归函数的矩阵表达:
或
其中：
第二十二页，本课件共有48页
二、多元线性回归模型的基本假定
假设1，解释变量是非随机的或固定的，且各X之间互不相关（无多重共线性）。
假设2，随机误差项具有零均值、同方差及不序列相关性
假设3，解释变量与随机项不相关
假设4，随机项满足正态分布
第二十三页，本课件共有48页
上述假设的矩阵符号表示式：
假设1，n(k+1)矩阵X是非随机的，且X的秩=k+1，即X满秩。
假设2，
假设3，E(X’)=0，即
第二十四页，本课件共有48页
假设4，向量 服从多维正态分布，即
同一元回归一样，多元回归还具有如下两个重要假设：
假设5，样本容量趋于无穷时，各解释变量的方差趋于有界常数，即n∞时，
或
其中：Q为一非奇异固定矩阵，矩阵x是由各解释变量的离差为元素组成的nk阶矩阵
假设6，回归模型的设定是正确的。
第二十五页，本课件共有48页
§ 线性回归模型的参数估计
估计方法：OLS、ML
一、普通最小二乘估计
二、最大似然估计
三、参数估计量的性质
四、样本容量问题
五、估计实例
第二十六页，本课件共有48页
一、普通最小二乘估计
对于随机抽取的n组观测值
如果样本函数的参数估计值已经得到，则有：
i=1,2…n
根据最小二乘原理，参数估计值应该是下列方程组的解
其中
第二十七页，本课件共有48页
于是得到关于待估参数估计值的正规方程组：
第二十八页，本课件共有48页
正规方程组的矩阵形式
即
由于X’X满秩，故有
第二十九页，本课件共有48页
将上述过程用矩阵表示如下：
即求解方程组：
得到：
于是：
第三十页，本课件共有48页
⃟正规方程组的另一种写法
对于正规方程组
于是
或
(*)或（**）是多元线性回归模型正规方程组的另一种写法
(*)
(**)
第三十一页，本课件共有48页
⃟样本回归函数的离差形式
i=1,2…n
其矩阵形式为
其中：
在离差形式下，参数的最小二乘估计结果为
第三十二页，本课件共有48页
⃟随机误差项的方差的无偏估计
可以证明，随机误差项的方差的无偏估计量为
第三十三页，本课件共有