1 / 4
文档名称:

非线性回归.docx

格式:docx   大小:38KB   页数:4页
下载后只包含 1 个 DOCX 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

非线性回归.docx

上传人:前程似锦教育 2022/11/24 文件大小:38 KB

下载得到文件列表

非线性回归.docx

文档介绍

文档介绍:该【非线性回归 】是由【前程似锦教育】上传分享,文档一共【4】页,该文档可以免费在线阅读,需要了解更多关于【非线性回归 】的内容,可以使用淘豆网的站内搜索功能,选择自己适合的文档,以下文字是截取该文章内的部分文字,如需要获得完整电子版,请下载此文档到您的设备,方便您编辑和打印。非线性回归
一、可化性回的曲回
在当中,有多回模型的被解量y与解量x之的关系都不是性的,其中一些回模型通自量或因量的函数可以化性关系,利用性回求解未知参数,并作回断。如下列模型。
y
0
1ex
-------
(1)y01x
2x2
pxp
--------
(2)
y
aebxe--------------------
(3)
y
aebx
-------------
(4)
于(1)式,只需令x
ex即可化yx
是性的形式y
0
1x
,
需要指出的是,新引的自量只能依于原始量,而不能与未知参数有关。
于(2)式,可以令x1=x,x2=x2,⋯,
xp=xp,于是得到y关于x1,x2,⋯,
xp的性表达式y
0
1x1
2x2
pxp
与(3)式,等式两同去自然数数,得
lnylna
bx
,令
y
lny,
0
lna,
1
b,于是得到y关于x的一元性回模型:
y
0
1x
。于(4)式,当b未知,不能通等式两同取自然
数数的方法将回模型性化,只能用非性最小二乘方法求解。
回模型(3)可以性化,而(4)不可以性化,两个回模型有相同的
回函数aebx,只是差 的形式不同。(3)式的差称乘性差,(4)
式的差称加性差。因而一个非性回模型是否可以性化,不与回函数的形式有关,而且与差的形式有关,差的形式可以有其他多种形式。
乘性差模型和加性差模型所得的果有一定差异, 其中乘性差
模型yt本身是异方差的,而 lnyt是等方差的。加性差模型 yt是等
方差的。从性看两者的差异,前者淡化了yt大的(近期数据)的作用,
化了yt小的(早期数据)的作用,早起数据合得效果好,而后者
近期数据合得效果好。
影响模型合效果的性主要是异方差、自相关和共性三个方面。
异方差可以同构乘性差模型和加性差模型解决, 必要可以使用
加最小二乘。
二、多式回
多式回模型是一种重要的曲回模型,种模型通常容易化一般的多元性回来做理。
1、常见的多项式回归模型
回归模型

yi

0

1xi

2xi2

i称为一元二阶多项式模型。通常将回归模
型中的系数表示成:

yi

0

1xi

11xi2

i,回归函数

yi

0

1xi

11xi2是一
条抛物线方程,通常称为二项式回归函数。回归系数 1为线性效应系数, 11为
二次效应系数。
当自变量的幂次超过 3时,回归系数的解释变得困难起来,回归函数也变得
很不稳定,对回归模型的应用会收到影响。因而,幂次超过3的多项式回归模型不常使用。在实际应用当中,常遇到含两个或两个以上自变量的情况,称回归
模型:yi 0 1xi1 11xi21 2xi2 22xi22 12xi1xi2 i为二元二阶多项式回
归模型。它的回归系数中分别含有两个自变量的线性项系数 1和 2,二次项系
数 11和

22,并含有交叉乘积项系数

12,交叉乘积项表示

x1与x2的交互作用,
系数

12通常称为交互影响系数。
三、非线性模型
在非线性回归中,平方和分解式SST=SSR+SSE不在成立,类似于线性回归中的复决定系数,定义非线性回归的相关指数:R^2=1-SSE/SST
用非线性最小二乘法求解非线性回归方程,非线性最小二乘是使残差平方和达到最小,这种平方损失函数的优点是数学性质好,在一定条件下具有统计学的一些优良性质,但其最大的缺点是缺乏稳健性。当数据存在异常值时,参数的估计效果变得很差。因而在一些场合,可以用一些更稳健的残差损失函数代替平方和
n
损失函数,例如绝对值损失函数。绝对值残差损失函数为

:

Q()

yi

f(xi, )
i 1
有时候用最小绝对值法的最大残差比普通最小二乘法的最大残差更大,这是否与最小绝对值法的稳健性相矛盾?其实这正说明了最小绝对值法的稳健性。这是因为最小绝对值法受异常值的影响程度小,回归线向异常值靠拢的程度也小,因而异常值的残差反而大。
四、非线性回归的一些问题
根据实际观测数据配以合适的曲线模型一般有两个重要的步骤。
一是确定曲线类型。对一个自变量的情况,确定曲线类型一般是把样本观测值画成散点图,由散点图的形状来大体确定曲线类型。再就是根据专业知识来确定曲线类型,如商品的销售量与广告费之间的关系,一般用S形曲线来描述;在农业生产中,粮食的产量与种植密度之间的关系往往服从抛物线关系。对于由专业知识可以确定的曲线类型,就用相应的模型去试着拟合,如果拟合的效果可以,问题就解决了。
二是参数估计问题。如果可将曲线模型转化为线性模型,就可用普通最小二
乘法去估计未知参数,如果不能用某种变换把它转化成线性模型, 则参数的估计
就要用非线性最小二乘法进行。非线性最小二乘法比普通最小二乘法要复杂得
多,一般都是用迭代方法。
由于任一连续函数都可用分段多项式来逼近,所以在实际问题中,不论变量
与其他变量的关系如何,在相当宽的范围内总可以用多项式来拟合。例如在一元回归关系中,如果变量y与x的关系可以假定为p次多项式,就可以转化为多元线性回归模型来处理。利用多项式回归模型可能会把已有的数据拟合得十分漂亮,但是,如果对较大的x作外推预测,这种多项式回归函数就可能会得到很差的结果,预测值可能会朝着意想不到的方向转折,可能会与实际情况严重不符。
所有类型的多项式回归函数,尤其是高阶多项式回归都具有外推风险。特别的,
对于一元回归,只要用一元n-1次多项式就可以把n对数据完全拟合,多项式曲线通过所有n-1个点,残差平方和为零,但是这种的回归拟合却没有任何实际意义。因此,必须谨慎地使用高阶多项式回归模型,因为得到的回归函数只是数据的良好拟合,而并不能如实地表明x与y之间回归关系的基本特征,并会导致不规则的外推。所以在应用多项式回归时,阶数一般不要超过三阶。
一般地说,当非线性回归模型选择正确,回归拟合效果
好时,相关指数 R2能够如实反映回归拟合效果;而当回归拟合效果差时,相关
指数R2则不能够如实反映回归拟合效果,甚至可能取为负值。 出师表
两汉:诸葛亮
先帝创业未半而中道崩殂,今天下三分,益州疲弊,此诚危急存亡之秋也。然侍卫之臣不懈于内,忠志之士忘身于外者,盖追先帝之殊遇,欲报之于陛下也。诚宜开张圣听,以光先帝遗德,恢弘志士之气,不宜妄自菲薄,引喻失义,以塞忠谏之路也。
宫中府中,俱为一体;陟罚臧否,不宜异同。若有作奸犯科及为忠善者,宜付有司论其刑赏,以昭陛下平明之理;不宜偏私,使内外异法也。
侍中、侍郎郭攸之、费祎、董允等,此皆良实,志虑忠纯,是以先帝简拔以遗陛下:愚以为宫中之事,事无大小,悉以咨之,然后施行,必能裨补阙漏,有所广益。
将军向宠,性行淑均,晓畅军事,试用于昔日,先帝称之曰愚以为营中之事,悉以咨之,必能使行阵和睦,优劣得所。

“能”,是以众议举宠为督:
亲贤臣,远小人,此先汉所以兴隆也;亲小人,远贤臣,此后汉所以倾颓也。先帝在时,每与臣论此事,未尝不叹息痛恨于桓、灵也。侍中、尚书、长史、参军,此悉贞良死节之臣,
愿陛下亲之、信之,则汉室之隆,可计日而待也 。
臣本布衣,躬耕于南阳,苟全性命于乱世,不求闻达于诸侯。先帝不以臣卑鄙,猥自枉屈,三顾臣于草庐之中,咨臣以当世之事,由是感激,遂许先帝以驱驰。后值倾覆,受任于败军之际,奉命于危难之间,尔来二十有一年矣。
先帝知臣谨慎,故临崩寄臣以大事也。受命以来,夙夜忧叹,恐托付不效,以伤先帝之明;故五月渡泸,深入不毛。今南方已定,兵甲已足,当奖率三军,北定中原,庶竭驽钝,攘除奸凶,兴复汉室,还于旧都。此臣所以报先帝而忠陛下之职分也。至于斟酌损益,进尽忠言,则攸之、祎、允之任也。
愿陛下托臣以讨贼兴复之效,不效,则治臣之罪,以告先帝之灵。若无兴德之言,则责攸之、祎、允等之慢,以彰其咎;陛下亦宜自谋,以咨诹善道,察纳雅言,深追先帝遗诏。臣不胜受恩感激。
今当远离,临表涕零,不知所言。