文档介绍：应用多元统计分析第三章多元回归分析*第三章多元回归分析本章主要讨论:●多元线性回归分析●自变量选择与逐步回归分析●回归分析应用实例第一节多元线性回归分析本节基本内容: 一、模型和参数估计二、模型检验三、多重共线性一、模型和参数估计(一)总体回归模型其中:因变量为随机变量,自变量为确定变量,是固定的但未知的参数,称为总体回归系数;称为随机误差项,表示除了自变量以外被忽略的或无法考虑的其他随机的影响因素。线性:指可表述为未知参数的线性函数。对于一个实际问题,如果我们获得组观测数据:则线性回归模型可表述为一、模型和参数估计一、模型和参数估计写成矩阵形式为其中,为了估计模型,要求:,一、模型和参数估计为了能对回归模型进行假设检验,还需假定随机误差项服从正态分布:值得注意的是,对回归模型的解释,主要是对参数()的解释,的含义为保持其他自变量不变,当变动一个单位时,对因变量的平均影响程度。(二)参数估计一、模型和参数估计现实情况下,总体参数未知,一般需根据样本资料建立样本回归模型,从而推断总体模型,利用样本资料,可以构建模型其中,是对的估计。需要指出的是,不是像那样是固定的数值,而是随着样本的不同,可以有不同取值,由于样本是随机的,也是随机变量。可由最小二乘法估计得到。一、模型和参数估计最小二乘法:其原理是使残差平方和达到最小,即达到最小。解形如下式的正规方程:一、模型和参数估计将其写为矩阵形式:即经过一系列求解,可得: