文档介绍：word
word
1 / 8
word
LMS自适应滤波算法
1960年Widrow和Hoff提出最小均方误差算法〔LMS〕，LMS算法是随机梯度算法中的一员。使用“随机梯度〞一词是为了将LMS算法与最速下降法区别开来。该算法在随机输入维纳滤波器递归计算中使用确定性梯度。LMS算法的一个显著特点是它的简单性。此外，它不需要计算有关的相关函数，也不需要矩阵求逆运算。
由于其具有的简单性、鲁棒性和易于实现的性能，在很多领域得到了广泛的应用。
LMS算法简介
LMS算法是线性自适应滤波算法，一般来说包含两个根本过程：
滤波过程：计算线性滤波器输出对输入信号的响应，通过比拟输出与期望响应产生估计误差。
自适应过程：根据估计误差自动调整滤波器参数。
如图1-1所示，用Xn=[xn xn-1 … x(n-N+1)]T表示n时刻输入信号矢量，用Wn=[w_0 (n) w_1 (n) … w_(N-1) (n)]T表示n时刻N阶自适应滤波器的权重系数，d(n)表示期望信号，en表示误差信号，vn是主端输入干扰信号，u是步长因子。如此根本的LMS算法可以表示为
en=dn-XT(n)W(n) 〔1〕
Wn+1=Wn+2ue(n)X(n) 〔2〕
图1-1 自适应滤波原理框图
word
word
3 / 8
word
由上式可以看出LMS算法实现起来确实很简单，一步估计误差〔1〕，和一步跟新权向量〔2〕。
迭代步长u的作用
理论分析
尽管LMS算法实现起来较为简单，但是准确分析LMS的收敛过程和性能却是非常困难的。最早做LMS收敛性能分析的是Widrow等人，他们从准确的梯度下降法出发，研究权矢量误差的均值收敛特性。最终得到代价函数的收敛公式：
Jn=Jmin+i=0L-1λi1-uλi2ngi'2(0) 〔3〕
式〔3〕揭示出LMS算法代价函数的收敛过程表现为一簇指数衰减曲线之和的形式，每条指数曲线对应于旋转后的权误差矢量的每个分量，而他们的衰减速度，对应于输入自相关矩阵的每个特征值，第i条指数曲线的时间常数表示为
τi=-1ln⁡(1-uλi)2≈12uλi
小特征值对应大时间常数，即衰减速度慢的曲线。而大特征值对应收敛速度快的曲线，但是如果特征值过大以至于(1-uλi)2>1如此导致算法发散。
从上式可以明显看出迭代步长u在LMS算法中会影响算法收敛的速度，增大u可以加快算法的收敛速度，但是要保证算法收敛。
最大步长边界:
umax=2Trace{R}
稳态误差时衡量LMS算法的另一个重要指标，稳定的LMS算法在n时刻所产生的均方误差，其最终值J(∞)是一个常数。用Jmin来表示维纳解对应的均方误差，如此稳态误差可以定义为：
M=J∞-JminJmin
Widrow给出的失调误差：
M=u2Trace{R}
可见LMS算法的失调误差恒不为零。也可以看出u越大失调误差会越大。收敛速度和稳态误差不可兼得，由步长u控制两者的折衷。
word
word
3 / 8
word
实验验证
算法迭代次数2048
给出了固定步长u=。
图2-1 单次运算与200次运算
200次独立仿