文档介绍：SPSS线性回归分析
回归分析概述
(一)回归分析理解
(1)“回归”的含义
galton研究研究父亲身高和儿子身高的关系时的独特发现.
回归曲线上的点给出了相应于每一个x(父亲)值的y(儿子)平均数的估计
(3)回归线的获ive:各变量均值、标准差和相关系数单侧检验概率.
Model fit:、估计标准误差、方差分析表、容忍度
(2)Residual框中的残差分析
Durbin-waston:D-W值
casewise diagnostic:异常值(奇异值)检测 (输出预测值及残差和标准化残差)
一元线性回归分析操作
(三)plot选项:图形分析.
Standardize residual plots:绘制残差序列直方图和累计概率图,检测残差的正态性
绘制指定序列的散点图,检测残差的随机性、异方差性
ZPRED:标准化预测值
ZRESID:标准化残差
SRESID:学生化残差
produce all partial plot:绘制因变量和所有自变量之间的散点图
线性回归方程的残差分析
(一)残差序列的正态性检验:
绘制标准化残差的直方图或累计概率图
(二)残差序列的随机性检验
绘制残差和预测值的散点图,应随机分布在经过零的一条直线上下
线性回归方程的残差分析
(三)残差序列独立性检验:
残差序列是否存在后期值与前期值相关的现象,(Durbin-Watson)检验
d-w=0:残差序列存在完全正自相关;d-w=4:残差序列存在完全负自相关;0<d-w<2:残差序列存在某种程度的正自相关;2<d-w<4:残差序列存在某种程度的负自相关;d-w=2:残差序列不存在自相关.
残差序列不存在自相关,可以认为回归方程基本概括了因变量的变化;否则,认为可能一些与因变量相关的因素没有引入回归方程或回归模型不合适或滞后性周期性的影响.
线性回归方程的残差分析
(四)异常值(casewise或outliers)诊断
利用标准化残差不仅可以知道观察值比预测值大或小,,则可认为对应的样本点为奇异值
，回归方程的标准差显著减小,也可以判定该观察值为异常值
线性回归方程的预测
(一)点估计
y0
(二)区间估计
x0为xi的均值时,预测区间最小,,预测区间越大,精度越低.
多元线性回归分析
(一)多元线性回归方程
多元回归方程: y= β0 +β1x1+β2x2+...+βkxk
β1、β2、βk为偏回归系数。
β1表示在其他自变量保持不变的情况下，自变量x1变动一个单位所引起的因变量y的平均变动
(二)多元线性回归分析的主要问题
回归方程的检验
自变量筛选
多重共线性问题
多元线性回归方程的检验
(一)拟和优度检验:
(1)判定系数R2:
R是y和xi的复相关系数(或观察值与预测值的相关系数),测定了因变量y与所有自变量全体之间线性相关程度
(2)调整的R2:
考虑的是平均的剩余平方和,克服了因自变量增加而造成R2也增大的弱点
在某个自变量引入回归方程后，如果该自变量是理想的且对因变量变差的解释说明是有意义的，那么必然使得均方误差减少，从而使调整的R2得到提高；反之，如果某个自变量对因变量的解释说明没有意义，那么引入它不会造成均方误差减少，从而调整的R2也不会提高。
多元线性回归方程的检验
(二)回归方程的显著性检验：
(1)目的:检验所有自变量与因变量之间的线性关系是否显著，是否可用线性模型来表示.
(2)H0: β1 = β2 =…= βk =0 即:所有回归系数同时与0无显著差异
(3)利用F检验,构造F统计量:
F=平均的回归平方和/平均的剩余平方和~F(k,n-k-1)
如果F值较大，则说明自变量造成的因变量的线性变动大于随机因素对因变量的影响,自变量于因变量之间的线性关系较显著
(4)计算F统计量的值和相伴概率p
(5)判断
p<=a:拒绝H0,即:所有回归系数与0有显著差异，自变量与因变量之间存在显著的线性关系。反之，不能拒绝H0
多元线性回归方程的检验
(三)回归系数的显著性检验
(1)目的:检验每个自变量对因变量的线性影响是否显著.
(2)H0:βi=0 即:第i个回归系数与0无显著差异
(3)利用t检验,构造t统计量：
其中:Sy是回归方程标准误差(Standard Error)的估计值，由均方误差开方后得到，反映了回归方程无法解释样本数据点的程度或偏离样本数据点的程度
如果某个回归系数的标准误差较小，必然得到一个相对较大的t值，表明该自变量xi解释因变量线性变化的能力较强。
(4)逐个计算t统计量的值