文档介绍：武汉理工大学应用数学系模式分析研究室王展青武汉理工大学应用数学系模式分析研究室王展青 6 多元线性回归分析 6 6 多元线性回归分析多元线性回归分析§ §1 1 一元线性回归分析一元线性回归分析§ §2 2 多元线性回归分析多元线性回归分析§ §3 3 残差分析残差分析§ §4 4 最优回归方程的选取最优回归方程的选取§ §5 5 可线性化的非线性回归可线性化的非线性回归武汉理工大学应用数学系模式分析研究室王展青武汉理工大学应用数学系模式分析研究室王展青§ 2 多元线性回归模型§ § 2 2 多元线性回归模型多元线性回归模型 多元线性回归模型多元线性回归模型 模型的参数估计模型的参数估计 线性关系的显著性检验线性关系的显著性检验 预测预测多元线性回归分析多元线性回归分析 线性回归模型 线性回归模型线性回归模型设设Y Y是一个可观测的随机变量是一个可观测的随机变量, ,它受它受 m m个非随机个非随机因素因素 X X 1 1,X ,X 2 2, ,……, ,X X m m和随机因素和随机因素εε的影响的影响, , 若有如下若有如下线性关系线性关系 1. 1. 理论模型及其假设理论模型及其假设该模型称为多元线性回归模型的该模型称为多元线性回归模型的理论模型理论模型 112 (1, , ,..., ) p T X X X X ??其中其中 0 1 2 1 ( , , ,..., ) Tp ? ??????未知未知一般一般假设假设),0(~ 2??N 0 1 1 2 2 1 1 p p Y X X X ? ????? ?? ?????? T Y X ? ?? ?或或多元线性回归分析多元线性回归分析我们对变量进行了我们对变量进行了 n n次观察,得到次观察,得到 n n组观察数据组观察数据为了估计回归系数为了估计回归系数 0 1 2 1 , , ,..., p ? ?????? 1 2 ( 1) , , , , , 1, , i i i i p Y X X X i n ??? ?一般要求一般要求 n>m. n>m. 于是回归关系可写为于是回归关系可写为 1 0 1 11 2 12 1 1( 1) 1 2 0 1 21 2 22 1 2( 1) 2 0 1 1 2 2 1 ( 1) p p p p n n n p n p n Y X X X Y X X X Y X X X ? ? ???? ? ???? ? ???? ?? ?? ?? ? ??????? ? ????????? ? ?????????假设假设其中其中 n???,,, 21?独立且与独立且与εε同分布同分布 2. 2. 观测模型及其假设观测模型及其假设多元线性回归分析多元线性回归分析采用矩阵形式来表示采用矩阵形式来表示 11 12 1,( 1) 1 21 22 2,( 1) 2 1 2 ,( 1) 111 , 1 p p n n n n p n n p X X X Y X X X Y Y X Y X X X ?????? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ??????? 01 12 11 1 , pnn p ????? ??????? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ?? ???X X称为称为设计矩阵设计矩阵 Y Y称为称为观测向量观测向量εε称为称为