文档介绍：回归分析概述 线性回归分析和线性回归模型 回归方程的统计检验 多元回归分析中的其他问题 线性回归分析的基本操作 线性回归分析的应用举例 曲线估计九、线性回归分析 回归分析概述 1、线性回归分析概述•线性回归分析的内容能否找到一个线性组合来说明一组自变量和因变量的关系如果能的话,这种关系的强度有多大,也就是利用自变量的线性组合来预测因变量的能力有多强整体解释能力是否具有统计上的显著性意义在整体解释能力显著的情况下,哪些自变量有显著意义•回归分析的一般步骤确定回归方程中的解释变量(自变量)和被解释变量( 因变量) 确定回归方程对回归方程进行各种检验利用回归方程进行预测 2、线性回归模型一元线性回归模型的数学模型: 其中 x为自变量; y为因变量; 为截距,即常量; 为回归系数,表明自变量对因变量的影响程度。 xy 10 0 1用最小二乘法求解方程中的两个参数,得到: 2 1)( ) )((xx yyxx i iixby 0多元线性回归模型多元线性回归方程: y= β 0+β 1x 1+β 2x 2 +...+ β kx k β 1、β 2、β k为偏回归系数。β 1表示在其他自变量保持不变的情况下,自变量 x 1变动一个单位所引起的因变量 y的平均变动。 3 、回归方程的统计检验1、回归方程的拟合优度回归直线与各观测点的接近程度称为回归方程的拟合优度, 也就是样本观测值聚集在回归线周围的紧密程度。 1、离差平方和的分解: 建立直线回归方程可知: y的观测值的总变动可由来反映,称为总变差。引起总变差的原因有两个: 由于 x的取值不同,使得与 x有线性关系的 y值不同; 随机因素的影响。 2)(yy bx ayˆx y y )( 0yy) ˆ( 0yy) ˆ(yy总离差平方和可分解为 2 2 2yyyyyy 即: 总离差平方和( SST)= 剩余离差平方和(SST) + 回归离差平方和( SSR) 其中; SSR 是由 x和y的直线回归关系引起的,可以由回归直线做出解释; SSE 是除了 x对y的线性影响之外的随机因素所引起的 Y的变动,是回归直线所不能解释的。 2、可决系数(判定系数、决定系数) 回归平方和在总离差平方和中所占的比例可以作为一个统计指标,用来衡量 X与 Y 的关系密切程度以及回归直线的代表性好坏,称为可决系数。对于一元线性回归方程: 2 2 2 2 2 21 1yy yyyy yyR SST SSE SST SSE SST SST SSR R对于多元线性回归方程: 在多元线性回归分析中,引起判定系数增加的原因有两个: 一个是方程中的解释变量个数增多,另一个是方程中引入了对被解释变量有重要影响的解释变量。如果某个自变量引入方程后对因变量的线性解释有重要贡献,那么必然会使误差平方和显著减小,并使平均的误差平方和也显著减小,从而使调整的判定系数提高。所以在多元线性回归分析中,调整的判定系数比判定系数更能准确的反映回归方程的拟合优度。 1/ 1/1 1 2 2n SST pn SSE R SST SSE R