文档介绍：.
最小二乘法的原理及其应用
一、研究背景
在科学研究中，了揭示某些相关量之的关系，找出其律，往往需要做数据合，其常用方法一般有的插法、最佳一致逼近多式、最佳平方逼近、最小二乘合、三角函数逼近、帕德（Pade）逼近等，以及代的神网逼二乘法拟合
曲线，在计算机上处理，即可得出满意的结论。原理是，先用线性最小二乘法对
(at a)曲线进行高次拟合，从(at a)曲线上读取等间隔时间 t时的at，作数据
匀整，改进数据的离散性，然后进行直线拟合，拟合偏差最小者为该反应的反应级数。表1为某学生的实验数据，输入计算机后，进行高次拟合，并进行数据修匀，得到表2数据。本次拟合次数为7，，表示拟合较好。
表1
蔗糖水解反应实验数据
温度：20℃
气压：101325Pa
HCl浓度：3M
at

时间t/min
7
12
17
27
37
47
62
77
92
旋光度αt

-
-
0
表2蔗糖水解反应实验拟合修匀后的数据
时间t/min
10
20
30
40
50
60
70
旋光度αt

-
-
最后将匀整后的数据作直线拟合，一级拟合偏差平方和最小为
，证明蔗糖
水解反应确为一级反应。
..
.
（2）最小二乘法在系统识别中的应用
1、原理分析
系统辨识是通过建立动态系统模型,在模型输入输出数据的基础上,运用辨识方法对模型参数进行辨识，从而得到一个与所观测的系统在实际特性上等价的系统。应用最小二乘法对系统模型参数进行辨识的方法有离线辨识和在线辨识两
种。离线辨识是在采集到系统模型所需全部输入输出数据后，用最小二乘法对数据进行集中处理，从而获得模型参数的估计值；而在线辨识是一种在系统运行过程中进行的递推辨识方法，所应用的数据是实时采集的系统输入输出数据，应用递推算法对参数估计值进行不断修正,以取得更为准确的参数估计值。由于在线
辨识方法具有实时采集系统输入输出数据，实时辨识模型参数,且占据计算机存储量小的优点，因此与离线辨识相比,在线辨识方法得到了更为广泛的应用。在线辨识的参数估计的最小二乘递推算法如下：
^θ(k+1)=^ θ(k)+K(k+1)[y(k+1)-xT(k+1)^θ(k)]
K(k+1)=P(k)x(k+1)[1+xT(k+1)P(k)x(k+1)]-1
P(k+1)=P(k)-K(k+1)xT(k+1)P(k)
2
递推初值:^θ(0)=任意值；P(0)=αI,α取计算机容许的最大值。式中x与y分别为系统的输入输出，θ为参数估计值,K为增益矩阵，
P(m)=(xTmxm)1
其最优性准则函数为:
m
J= e2(i)
i1
其中m为数据采集的次数，e为残差向量。由于上述递推算法无法反映参数随时间变化的特点，新数据被大量的老数据所淹没，对于慢时变参数的辨识来说，这必然得不到跟踪参数变化的实时估计，因此又进一步有了改进的最小二乘递推