多元回归分析总结分析.doc

文档介绍：第十二章多元回归分析在许多实际问题中,影响因变量的因素有一个时,我们用一元回归分析解决问题,但是影响因变量的因素往往有多个, 此时问题就上升到了一个因变量同多个自变量的多元回归问题。当因变量与自变量之间为线性关系时,我们称之为多元线性回归。多元性性回归分析的原理同一元线性回归基本相同,但计算上要复杂得多。本章知识结构如下: 1、建立回归模型???????????xxx kky? 22 110回归方程 xxx kky?????????? 22 110 2、利用最小二乘法对参数进行估计参数包括???? k? 210, , 3、写出回归方程 xxx kky?????????? 22 1104、方程拟合优度的检验 5、线性关系检验 6、回归系数的检验检验单个自变量对因变量的影响是否显著, 检验步骤同线性关系的检验, 检验过程中可能会因为“多重共线性”问题导致某些自变量无法通过检验。 7、利用回归方程进行预测利用给定的 k个自变量,求出因变量 y的平均值的预测区间和个别值的预测区间。 8、变量选择——我称之为“模型的简化”主要方法原理:对统计量进行显著性检验,将一个或一个以上的自变量引入模型, 如果增加一个自变量会使得残差平方和( SSE )明显减少,则将该自变量留在模型中,否则剔除。 9、多重共线性问题 1、产生原因:自变量之间的相关性 2、检验方法方法一:多重判定系数 R 2 方法二:估计标准误差 S e 1)提出假设 2)计算统计量)1,(~)1( ?????knkFknSSE KSSR F 3)作出决策??,,,PFF a)向前选择 b)向后剔除 c)逐步回归 a) 计算各对自变量之间的相关系数,并对各相关系数进行显著性检验; b)当模型的线性关系进行 F检验显著时,几乎所有回归系数? i的 t检验却不显著; c)回归系数与预期的的相反; 多元回归分析主要知识点: 建立的回归模型中回归系数和误差项分别代表的含义: 回归系数)2,1,0(ki i???表示当其他 1?k 个自变量不变时,第i 个自变量一个单位因变量 y 的平均变动量; 误差项?表示不能由各个自变量与 y 之间的线性关系所解释的变异性。利用软件用最小二乘法对参数进行估计的方法及步骤: 在 Excel 中使用“工具”?“数据分析”?“回归”?输入数据区域?“确定”,即可得到各参数的估计值,此时便可以写出回归方程。拟合优度的检验方法: 方法一:多重判定系数 101 2 2?????RR SST SSE SST SSR R 2表示在因变量 y 的总变差中被估计的回归方程所解释的比例; 故R 2越大越好。方法二:估计标准误差 1 () ? 2e????? knyyS iiS e 表示根据所建立的回归方程,用自变量来预测因变量时,平均预测误差的大小; 故S e越小越好,越小说明波动性越小。用软件进行线性关系检验的方法: 在 Excel 中,在“工具”?“数据分析”?“回归”?方差分析一栏中有“ SignificanceF ”值(即 P值) ,当??p 时,拒绝原假设;当??p 时,接受原假设。回归系数的检验: 检验单个自变量对因变量的影响是否显著, 检验步骤同线性关系的检验, 检验过程中可能会因为“多重共线性”问题导致某些自变量无法通过检验。检验步骤:第 1步:提出假设。对于任意参数)2,1(ki