文档介绍：: .
LMS自适应滤波算法
I960年Widrow和Hof提出最小均方误差算法（LMS） , LMS算法是随机梯度算法中的一员。使用“随机梯度” 一词是为了将 LMS算法与最速下降法区别开来。该算法在随机输
入维纳滤波器递归计算中使用确定性梯度。 LMS算法的一个显著特点是它的简单性。此外，
它不需要计算有关的相关函数，也不需要矩阵求逆运算。
由于其具有的简单性、鲁棒性和易于实现的性能，在很多领域得到了广泛的应用。
1 LMS算法简介
LMS算法是线性自适应滤波算法，一般来说包含两个基本过程：
（1）滤波过程：计算线性滤波器输出对输入信号的响应，通过比较输出与期望响应产生估计误差。
（2）自适应过程：根据估计误差自动调整滤波器参数。
如图1-1所示；用捷5 - D…- N + 羽表示门时刻输入信号矢量,
）側5）二宙J）（町心（“… 心N — 1）表示n时刻N阶自适应滤波器的权重系数, 丽表示期望信号，削”农示误料信号「呎训是主端输入干扰信号，u是步长因子。则基本
的LMS算法可以表示为
e(n) = d(n) - X (n)W(n)
(1)
(2)
# / 7
# / 7
x(n)
e(耳)
图1-1自适应滤波原理框图
1），和一步跟新权向
由上式可以看出 LMS算法实现起来确实很简单，一步估计误差（量（2）。
2迭代步长u的作用

尽管LMS算法实现起来较为简单，但是精确分析 LMS的收敛过程和性能却是非常困难
的。最早做LMS收敛性能分析的是 Widrow等人，他们从精确的梯度下降法出发，研究权矢
量误差的均值收敛特性。最终得到代价函数的收敛公式：
5）二/丽+ ）亀凡讪（3）
式（3）揭示出LMS算法代价函数的收敛过程表现为一簇指数衰减曲线之和的形式，每
条指数曲线对应于旋转后的权误差矢量的每个分量，而他们的衰减速度，对应于输入自相关
矩阵的每个特征值，第i条指数曲线的时间常数表示为
# / 7
# / 7
但是
小特征值对应大时间常数，即衰减速度慢的曲线。而大特征值对应收敛速度快的曲线, 如果特征值过大以至于 2 一叭）＞片则导致算法发散。
从上式可以明显看出迭代步长 u在LMS算法中会影响算法收敛的速度，增大 u可以加快算
法的收敛速度，但是要保证算法收敛。
最大步长边界：
稳态误差时衡量LMS算法的另一个重要指标，稳定的LMS算法在n时刻所产生的均方误差，其最终值匚口是一个常数。用—来表示维纳解对应的均方误差，则稳态误差可以定义为:
Widrow给出的失调误差：
u
VI = —Trace{R]
At
可见LMS算法的失调误差恒不为零。也可以看出 u越大失调误差会越大。收敛速度和
稳态误差不可兼得，由步长 u控制两者的折衷。

白噪声经过AR模型的输作为LMS算法的输入，AR模型参数：a1=;a2=- 算法迭代次数2048
（1）给出了固定步长u=