文档介绍：第五章基本自适应算法
当系数为最佳值 ,即是维纳解,梯度矢量应等于零即：
E[e(n)x(n)]=0 (5-8)
则误差性能函数的梯度向量矢量Δw(n）代入式(5-15)得
(5-18)
式中wo是最佳滤波系数矢量， Δw(n）是误差矢量即Δw(n）=w(n)- w0
河南工业大学
如将W0移至等式左边，则 等于系数误差矢量的更新值，于是式(5-18)可写成
(5-19)
对式(5-19)两边取数学期望，得到
(5-20)
LMS算法与前述最陡下降算法有相同的精确数学表达式。
河南工业大学
因些，要使LMS算法收敛于均值，必须使步长参数满足下列条件：
0< μ<2/λmax (5-21)
λmax是相关矩阵R的最大特征值。在此条件下，迭代计算次数n接近无穷大时，自适应滤波系数矢量w(n)近似等于最佳维纳解w0。
河南工业大学
二、平均MSE-学****曲线
如前节所述，最陡下降算法每次迭代都要精确计算梯度矢量，使自适应横向滤波器权矢量或滤波系数矢量w(n)能达到最佳维纳解w0,这时滤波器均方误差（MSE）为最小.
LMS算法用瞬时值估计梯度存在误差的噪声估计，结果使滤波器权矢量估值只能近似于最佳维纳解，这意味着滤波均方误差ξ(n)随着迭代次数n的增加而出现小波动地减小，最后ξ(∞)不是等于而是稍大于其值 。如下图所示，步长参数μ选用的越小，则噪化指数衰减曲线上的波动幅度将越小，即学****曲线的平滑度越好.
河南工业大学
对于自适应横向滤波器总体来说，假设每个滤波器LMS算法用相同的步长和同等的起始系数矢量w(0),并从同一统计群体随机地选取各个平稳的各态历经（遍历性）的输入信号，由此计算自
ξmin
0
MSE
n
图5-3单条学****曲线
河南工业大学
平均MSE
ξmin
n
ξ ex(n)
图5-4总体平均学****曲线
适应滤波器总体平均学****曲线，如下图所示，这是一个平滑的总体平均学****曲线，通常它是由50到200个单独LMS算法的结果加以平均而得到的，显然，我们可以用E[ξ(n)]表示的平均LMS来描述LMS算法的动态性质.
河南工业大学
三、失调
在自适应滤波器中，失调(Misadjustment) 是衡量其滤波性能的一个技术指标，它被定义为总体平均超量均方误差值ξex(∞)与最小均方误差ξmin 之比，即
(5-22)
证明可知：
(1)失调为自适应LMS算法提供了一个很有用的测度，比如，10%失调意味着自适应算法所产生的总体平均MSE高于最小均方误差的增量值为10%；
(2)失调是随滤波系数数目线性增加的；
(3)失调可以做得任意小，只要选用大的时间常数，也就是小的步长值即可。
河南工业大学
但是，滤波器自适应收敛过程需要长的时间，影响了滤波器自学****自训练的速度，所以，自适应滤波器LMS算法的失调与自适应收敛过程之间存在着矛盾，如何缩短收敛过程，而且有很小的失调，这是值得研究的问题。
河南工业大学
RLS算法
预备知识
矩阵求逆引理
指数加权递归最小二乘算法
正则化参数的选择
误差平方加权和的更新递归
河南工业大学
在本节中，我们将推广最小二乘的应用，以便推出一种设计自适应横向滤波器的递归算法。即给定n-1次迭代滤波器抽头权向量最小二乘估计，依据新到达的数据计算n次迭代权向量的最新估计。我们把这一算法称为递归最小二乘（RLS，recursive least-squares）算法（滤波器）。
河南工业大学
在RLS 滤波器的推进过程中，我们首先回顾最小二乘法的一些基本关系式。然后，应用矩阵代数中矩阵求逆引理所揭示的关系，导出RLS滤波器。 RLS滤波器的一个重要特点是，它的收敛速率比一般的LMS滤波器快一个数量级。这是因为RLS滤波器通过利用数据相关矩阵之逆，对输入数据（假定这些数据的均值为零）进行了白化处理。然而，性能的改善以RLS滤波器计算复杂性的增加为代价。
河南工业大学
在最小二乘的递归实现中，我们从给定的初始条件出发，通过应用新的数据样本值中所包含的信息对旧的估计值进行更新。因此我们发现，可测数据的长度是可变的。因而，把待最小化的代价函数表示为ξ(n)，其中n是可测数据的可变长度。