文档介绍：第三章曲线拟合的最小二乘法
§1 引言
一、曲线拟合的概念
根据给定的 mx个点(,iiy ),在不要求它一定要
精确地经过这些给定的点的条件下,求曲线
yfx= ()的一条近似曲线 yx= ϕ()。
二、研究曲线拟合的原因
插值方法的缺陷:
¾ 由实验提供的数据通常带有量测等各种误
差,如要求 yx= ϕ()严格通过所有给定点
(,xiiy ),就保留了原有的误差。
¾ 由实验提供的数据往往较多,用插值法得到
的近似表达式,缺乏实用价值。
¾ 插值方法的鲁棒性差。
§2 最小二乘法
一、曲线拟合的方法
1. 曲线拟合的提法:
给定数据点(,xiiy )(1,2,,)im= " ,求曲线
yf= ()x 的一条近似曲线 yx= ϕ()使得偏差(残
差)
δiii= ϕ()x −=y ,im 1,2,,"
较小(不要求δi = 0 )。
注:当δi = 0 就是插值问题,所以曲线拟合是
个更一般的问题,具有更多的应用领域,它
是插值问题的一般化,插值问题是它的一种
特殊情况。
2. 常见的曲线拟合方法
(1)使偏差绝对值之和最小,即
mm
min |δϕiii |= | (x )− y |
ϕ∑∑()
ii==11
(2)使偏差绝对值最大的最小,即
min max |δiii |= |ϕ(x )− y |
ϕ i ()
(3)使偏差平方和最小,即
mm
22
minδϕiii=−( (x )y )
ϕ∑∑()
ii==11
按偏差平方和最小的原则选取拟合曲线的方法,称
为最小二乘法。
二、最小二乘问题的提法
对于给定的数据表(,xiiy )(1,2,,)im= " ,要求
在某个函数类Φ= Span{ϕ01 (),(),, xϕϕ x" n ()} x ()nm<
中寻求一个函数
** * *
ϕϕϕ()x =+++axax00 () 11 ()" axnn ϕ() ()
使得
mm
*2 2
(()ϕϕxii−=yxy ) min(() ii −)
∑∑ϕ∈Φ()
ii==11
式中ϕ()x = axax00ϕϕ()+++ 11 ()" axnn ϕ()是函数类Φ中
的任一函数。称满足()的函数ϕ* ()x 为该最小
二乘问题的最小二乘解。
§2 最小二乘解的求法
一、最小二乘解的求法
最小二乘问题可写为无约束的最优化问题
mn
2
min (axykkϕ( i )−= i ) min saaa (01 , ," , n )
aa,,,"" a∑∑ aa ,,, a ,
01nnik==10 01
从而将它转化为求多元函数 s(,,aa01" , an )的最小
值问题。
∂s
(1)令==0,kn 0,1," ,
∂ak
(2)解法方程组
⎡⎤⎡⎤⎡⎤(,)(,)ϕϕ00 ϕϕ 01" (, ϕϕ 0n )a 0 (,) ϕ 0f
⎢⎥⎢⎥⎢⎥(,ϕϕ) (,) ϕϕ" (, ϕϕ)a (,) ϕ f
⎢⎥⎢⎥⎢⎥10 11 1n 1= 1
⎢⎥⎢⎥⎢⎥###### ()
⎢⎥⎢⎥⎢⎥
⎣⎦⎣⎦⎣⎦(,)(,)ϕϕnn01 ϕϕ" (,) ϕϕ nnnna (,) ϕ f
** *
得到 s(,,aa01" , an )的最小点(,,aa01" ,) an ,这里
m
(,hg )= hx ( )( gx )
∑ ii。
i=1
定理 1 :对于给定的一组实验数据
(,xiiyi )(1,2,,)= " m, xi 互异,在函数类
线性无关
Φ=Span{(),(),,ϕ01 xϕϕ x" n ()} x ( nm< ,ϕi ()x )
中,存在唯一的函数
** * *
ϕϕϕ()x =+++axax00 () 11 ()" axnn ϕ()
*
使得关系式()成立,且其系数 akk (0,1,,)= " n可
由()得到。