1 / 16
文档名称:

最小二乘法及其应用...doc

格式:doc   大小:174KB   页数:16页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

最小二乘法及其应用...doc

上传人:文库旗舰店 2019/11/12 文件大小:174 KB

下载得到文件列表

最小二乘法及其应用...doc

相关文档

文档介绍

文档介绍:,很快得到欧洲一些国家的天文学家和测地学家的广泛关注。据不完全统计,自1805年至1864年的60年间,有关最小二乘法的研究论文达256篇,一些百科全书包括1837年出版的大不列颠百科全书第7版,亦收入有关方法的介绍。同时,误差的分布是“正态”的,也立刻得到天文学家的关注及大量经验的支持。如贝塞尔(,1784—1846)对几百颗星球作了三组观测,并比较了按照正态规律在给定范围内的理论误差值和实际值,对比表明它们非常接近一致。拉普拉斯在1810年也给出了正态规律的一个新的理论推导并写入其《分析概论》中。正态分布作为一种统计模型,在19世纪极为流行,一些学者甚至把19世纪的数理统计学称为正态分布的统治时代。在其影响下,最小二乘法也脱出测量数据意义之外而发展成为一个包罗极大,应用及其广泛的统计模型。到20世纪正态小样本理论充分发展后,高斯研究成果的影响更加显著。最小二乘法不仅是19世纪最重要的统计方法,而且还可以称为数理统计学之灵魂。相关回归分析、方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论基础。正如美国统计学家斯蒂格勒()所说,“最小二乘法之于数理统计学犹如微积分之于数学”。最小二乘法是参数回归的最基本得方法所以研究最小二乘法原理及其应用对于统计的学****有很重要的意义。:选择参数,:为了说明这个方法,先解释一下最小二乘原理,以一元线性回归方程为例.(一元线性回归方程)由于总体回归方程不能进行参数估计,我们只能对样本回归函数来估计即:                  从上面的公式可以看出:残差是的真实值与估计值之差,估计总体回归函数最优方法是,选择的估计量,,最小二乘原理就是选择样本回归函数使得所有Y的估计值与真实值差的平方和为最小,这种确定的方法叫做最小二乘法。最小二乘法是回归分析中的最基本的方法。回归方程一般分为2类,线性回归方程和非线性回归方程。,,虽然有很多种不同的方法来求样本回归函数(即真实总体回归函数的估计值),,,,我们都知道长的高的人不一定就重,,;其次把数据描绘出来;然后拟合一条跟已有的图象最接近的曲线,,常用的有抛物线方程()、指数方程()等。设已知列表函数,并且我们想用一个通常的次多项式(1)去近似它。问题是应该如何选择使能较好地近似列表函数。按最小二乘法,应该选择使得(2)取最小。注意到S是非负的,且是的2次多项式,它必有最小值。求S对的偏导数,并令其等于零,得到进一步,可以将它们写成引进记号则上述方程组为(3)它的系数行列式是由的定义及行列式性质,可以断言(4)此处符号W表Vandermonde行列式,而是对所有可能的求和(每个可以取值并且当时。由(4)式及Vandermonde行列式的性质可知,当互异时,从而,方程组(3)有唯一解,且它们使(2)取极小值如此,(2)时,所有点都起到了同样的作用,但是有时依据某种理由认为中的某些项的作用大些,而另外一些作用小些(例如,一些是由精度较高的仪器或操作上比较熟练的人员获得的,自然应该予以较大的信任),这在数学上表现为用和(5)替代和(2)取最小值.,且,通常称之为权;而(5)(即给出的一组观测值时。需要确定的参数是;,,,,必须先把非线性问题线性化,:(i)有时,我们希望用如下类型的函数:(6)去近似一个由一组观