文档介绍：第卷第期大连民族学院学报. ,.
年月
文章编号:———
响应变量缺失下线性回归模型的算法
刘力军
大连民族学院理学院,辽宁大连
摘要:针对线性回归模型,提出了一个新的期望递归最小二乘算法,
。在响应变量数据存在部分缺失的条件下,取响应变量的期望值代替缺失值,基于该期望
值与自变量数据,实现自适应的递归估计回归系数,避免了高维数据相关矩阵的求逆困难。算法充
分利用了全部有效数据,实现了在线回归估计。数值实验结果表明,在观测数据存在野值时,通过引入
非线性抑制函数,算法优于方法。
关键词:缺失数据;响应变量;递归最小二乘法;线性回归
中图分类号: 文献标志码:
、
——
,,,
:
.,
. —
,,
—.
.
,,
.
:;;;
数据缺失现象在实际问题中经常发生,如可器处理器运算速度的限制,传统的基于全部数据
靠性寿命试验、遥外测数据提取、无线通信处理、样本集进行似然估计的办法已无法应用,工程应
模式识别等领域往往会出现大量缺失数据的现用更希望获得运算复杂度低、只需较小存储需求
象。算法最初由等提出,主的实时处理算法。这类算法通常只需要存储当前
要用于计算后验分布的极大似然估计,如用于含数据样本,无需存储全部数据集参与运算,因此
缺失数据的线性与非线性模型的回归系数的估计这类实时处理算法被列为信号处理领域的典型研
问题。针对响应变量存在随机缺失的线性模究课题¨。另一方面,在自适应信号处理问题
型的研究成为近期的热点。中,所处理的随机信号通常存在于非平稳环境
在自适应信号处理领域,如无线通信系统的中,这要求面向问题的算法要具有很好的适应
信道估计中,一方面,数据样本的取得通常是通性,在数据环境发生微小变化时,算法应具有较
过传感器网络实时获取的,由于存储空间和传感强的跟踪环境改变的能力。所有的物理采样系
收稿日期:——;最后修回日期:——
基金项目:国家自然科学基金项目;中央高校基本科研业务费专项资金资助项目。
作者简介:刘力军一,男,满族,河北承德人,副教授,博士,主要从事神经网络算法研究。
万方数据
大连民族学院学报第卷
统,由于信道特性、环境噪声以及传感器设备的求解式的典型方法是最小二乘法
物理特生等因素,采样过程中得到的数据往往包, ,即
含较大的随机误差,使得部分数据样本严重偏离/一,
目标真值,这些严重偏离目标真值的数据称为野
式中,· 【是向量的一范数。当
值或者异常值¨。实际应用表明,即使是包含少
为列满秩矩阵时,式有唯一解,即
量的野值,对参数估计效果也会产生非常不利的
。
影响,甚至导致算法结果明显地偏离系统状态真
假定随机缺失,即是否缺失只与有关,而
值。
与无关,此时,若使用最乘解,一方
对于响应变量存在缺失的时变环境中,是否面,矩阵求逆对于高维数据拟合会带来计算上的
能够给出理想的实时自适应跟踪算法对于线性
困难,另一方面,由于数据的部分缺失,只能抛弃
回归问题模型,在响应数据随机缺失的前提条件
与缺失数据相应的数据,显见,单纯使用算
下,在数据样本集存在野值时,能否得到更为稳
法将会导致部