文档介绍：§1 线性最小二乘问题
一、最小二乘问题的一般提法
在实际应用中,经常遇到下列数据处理问题:
已知函数在m个点上的数据表,寻求其近似函数。
设的近似函数为
其中是某函数族中的已知线性无关函数。
第七章曲线拟合与线性最小二乘问题
/*Curve Fitting and Linear Least Square Problem*/
称为
残向量
寻求一组常数,要求
的2-范数达到最小。
如果m=n,且
以及
即多项式插值
记
则得到最小二乘问题:
上述问题的解也称为方程组的最小二乘解
当时称之为超定(或矛盾)方程组。
所谓”曲线拟合”,是指根据给定的数据表,寻找一个
简单的表达式来”拟合”该组数据,此处的”拟合”的含义
为:不要求该表达式对应的近似曲线完全通过所有的数
据点,只要求该近似曲线能够反映数据的基本变化趋势.
二、最小二乘多项式拟合
引例1:考察某种纤维的强度与其拉伸倍数的关系.
下表是实际测定的24个纤维样品的强度与相应的
拉伸倍数的数据记录:
编号
拉伸倍数
强度
编号
拉伸倍数
强度
1
13
5
2
2
14
5
3
15
6
4
16
5
17
6
6
18
7
3
19
8
8
20
8
7
9
4
4
21
10
4
22
9
8
11
23
12
24
10
可以看出,纤维强度随
拉伸倍数增加而增加
并且24个点大致分
布在一条直线附近
该直线称为这一问题的数学模型。
因此可认为强度与
拉伸倍数之间的主
要关系是线性关系
怎样确定a,b,使得直线能较好地反映所给数据的基
本“变化趋势”?
一般情况
各点误差
总误差
令
问题转化为求参数使达到最小值。
这种求线性函数y=a+bx的过程称为线性拟合。
一般地,设的近似函数为
寻求,使得
则称为函数的多项式拟合。
满足下列法方程组:
非线性拟合(补充)
已知函数在若干个点上的数据表,确定参数和
,利用经验函数拟合某组数据:
某些非线性拟合问题可转化为线性拟合问题
线性化处理:
令
则
由线性拟合方法可得到和,从而的到和