第六章 非线性回归与logistic回归.ppt

文档介绍：非线性回归模型
非线性回归模型
定义:模型中参数不全是线性形式出现,则

称为非线性回归模型!随机误差项仍假设服从正态分布!通常非线性回归模型简写成:
非线性回归模型的参数估计
,有时也用非线性最小一乘法,即LAD回归。非线性最小二乘法即选择合适的使残差平方和最小从而估计的值。
由于是非线性形式出现,非线性最小二乘法的解,一般没有线性情形那样的公式可用,只能通过一个数学分支“最优化”的方法使SSE达到极小。最优化的理论和方法非常丰富,有多种方法使SSE达到极小。
无论哪种方法,都必须从一个预先给出的初始估计出发,经过多次迭代,不断改善,达到SSE近似极小,从而得到参数的近似最优估计--非线性最小二乘的近似最优解。由于计算量大,只能编程用电脑来算,通常用专用软件计算。
非线性函数SSE往往有多个极小值。由“最优化”理论可知,初估计对迭代的结果影响很大,初估计不好,不仅收敛速度慢,而且可能不收敛到最小值点。好的初估计不仅收敛速度快,而且总能收敛到全局最小值点;好的初估计称为优良初估计。通常求优良初估计,都是将非线性参数化为线性参数而用线性回归求出。即构造另一个线性回归模型,对同样的自变量,响应变量和观测数据,线性回归模型的最优解是非线性回归模型的优良初估计。
非线性回归过程NLIN
NLIN过程简介
PROC NLIN 选择项;
MODEL 因变量=自变量表达式;
PARAMETERS或PARMS 参数=数值
……
参数=数值;
BY 语句;
BOUNDS 语句; (参数约束语句)
DER 语句; (微商语句)
OUTPUT OUT=SAS数据集,KEYWORD=变量名……;
RUN ;