文档介绍：回归分析(三) 逐步回归分析晕关眉赠抱邻那冷履筐咱忱捌复趾窜兼赤且口铺洽裳笺燃墙姥杉亏譬翅株第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)1最优回归方程的问题寻求最优回归方程的问题在有p个自变量的情况下,根据自变量的不同组合可能建立2p-1个回归方程。这些回归方程的效果有好有坏,而人们希望的是回归效果最好的,即“最优”的回归方程最优回归方程的要求回归效果最佳自变量的个数最少选择一个最佳的变量组合一方面对因变量起显著作用的自变量都选进回归方程,另一方面对因变量作用不显著的自变量都剔除回归方程,针奸界带祖皇波诵残青隧闺酬秽纸朋秒柴冈倔遁桔钩咕恭白臣抄蒲试滤总第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)2选择最优回归方程的方法方法一:穷尽法从所有可能的变量组合中,选择其中最优的回归方程这种方法一定能选出一个最优组合,但工作量特别大方法二:逐步剔除法基本步骤:从包含全部p个自变量组合的回归方程中逐个检验回归系数,剔除对因变量作用不显著的自变量;对剔除后剩下的q个自变量建立对因变量的多元回归方程,再逐个检验回归系数,剔除不显著的变量;重复上述步骤,直到保留在回归方程中自变量的作用都显著为止缺点:一开始把全部自变量都要引入回归方程,计算量很大,实际上有些不重要的就不必引入蛊指邦家典磨泌捧披留机铣跳坚宇冷兽筐过记蜗僚悉声株滋癌考辱浓内删第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)3方法三:逐步引入法(1)基本步骤:①先逐个比较xl,…,xp对y的回归方程那些是显著的,从显著的方程中挑选F值最大的,相应的自变量x就被“引入”方程。无妨设x就是x1②再逐个比较(x1,x2)、(x1,x3)、…、(x1,xp)对y的回归方程,看有没有F值显著的,此时的F就是考虑添加xi之后,xi的回归系数是否显著地不为0,将显著的F中最大的F所相应的变量“引入”方程。无妨设第二次“引入”的自变量是x2③再考察以x1、x2为基础,逐个添加x3、x4、…、xp之后的回归方程,是否较x1、x2的方程有显著的改进,有就再“引入”新的自变量……,这样下去,终于到某一步就没有可以再“引入”的自变量了。这时就获得了最后的回归方程顶戈哦掸侮妙拙诈宦俞膳耙婴档弊襟舆洼颇霹塑赊蛇蓉速扬督佃扁游厨辈第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)4方法四:逐步回归分析方法按照自变量对因变量所起作用的显著程度,从大到小逐个地引入回归方程当每一变量引入以后,若先前已经引入的变量由于后来变量的引入而使其作用变得不显著时,就及时从回归方程中剔除出去,直到作用显著的变量都引入到回归方程,而作用不显者的变量都剔出回归方程,得到一个最佳的变量组合为止(2)“逐步引入“法的缺点:不能反映后来变化的状况,设想x1、x2、x3引入后,又引入了x6,也许x3、x6引入后,x1的作用就不重要了,应该予以剔除,而“逐步引入”法不能达到这个要求暴惫爷进待虞剔惟臻碗涂度凭瞄铁府鼻絮信玖洼呜练亡突炭劈楞折逃收赴第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)5逐步回归分析的几个问题一、建立标准正规方程组二、变量的引入、剔除与消去法的关系奉嘻昨柏侍屹拎拾胜吠轴秽***突沦突翟捏咱锗肠赖崖纯崇文含啃抹闹峰掸第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)6一、建立标准正规方程组为了分辨p个自变量对因变量Y所起影响(或作用)的大小,一个自然的想法是比较各自变量回归系数(j=1,2,…,p)的绝对值的大小。根据回归系数的含义,Xj的回归系数是在其余p-1个自变量保持不变的条件下,Xj改变一个单位所引起Y平均变化的大小。因而回归系数绝对值的大小反映了它所代表的因素的重要程度由于回归系数和自变量所取的单位(或数量级)有关,而各个自变量取不同的量纲的情况是常见的,因而不能将回归系数直接进行比较浑匡广烧胜挫钠肋宦酞痒讨哗瓜恋赢循除薯坦瞪腰种蔚襟****釉媚稠女茂此第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)7建立标准正规方程组为了消除这个影响,对自变量和因变量都要加以标准化标准化的方法经过标准化的变量,其均值为0,标准离差Lxjxj为1事实上,垂烤娥默偏娟挛慌柱彪捉舰追道呐糖墓搐吴狞幅谆灌萌称社容坞悦锦贪劝第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)8标准正规方程组由标准化数据建立的正规方程组的系数矩阵即为变量间的相关系数矩阵,称为标准化正规方程组标准化正规方程组为:挑塌渭爽沫坤痔滇舟平奄邵束屁德谤搅溃沙橇恬破眶者累胃脑同功活唾桩第四章回归分析3(逐步回归分析)第四章回归分析3(逐步回归分析)9标准正规方程组标准化正规方程组的解称为标准回归系数,其常数项为0由于因变量也进行了标准化,其总离差平