文档介绍:第卷第期经济数学
年月
一类非单调修正算法的全局收敛性
易芳
湖南大学数学与计量经济学院,湖南长沙,
摘要本文给出一类非单调线性搜索下的修正算法,该方法保证每次迭代中的搜索方向是充分下降
的在较弱的条件下,我们证明了此类非单调修正算法具有全局收敛性
关键词修正算法,非单调线性搜索,全局收敛性
引言
设”连续可微,考察如下无约束优化问题
任
求解的共扼梯度法的迭代格式如下
了是气走,
其中,搜索方向表示为
,
巧一龙,
一十月乏一,, ,
其中表示步长,由某种线性搜索决定,走甲是函数力在点二处的梯度,月走为参数
常用的共扼梯度法包括一,一卜,
,一和法在这些方法中的参数风的取值分
别如下
万’泛一一,
月穿,咫一些一弃典二凛生于,肥
一“是一乙,浇一走,’
肥业丛叮尹差日
一蕊逐““一乙,走一’
其中的· 日表示向量的模,“”表示向量的转置,头一。一。一,
算法在求解大规模优化问题时颇受欢迎,也具有较好的收敛性理论但是在
中指出,即使使用精确线性搜索算法也不具有全局收敛性一」对
算法的收敛性进行了进一步的考察,证明了在标准线性搜索条件下,满足可“非负以及
或走镇。走时算法具有全局收敛性
非单调搜索算法在求解大规模非线性问题上也很有潜力。和最早提出了
国家自然科学基金资助项目
收稿日期一一
—经济数学第卷
一种非单调牛顿算法并分析了它的收敛性一」和一一分别提出
了非单调的算法和非单调拟牛顿法数值实验显示,利用非单调线性搜索可提高算法的收
敛效率
本文将非单调搜索应用于一种修正的算法,在一定的假设条件下,我们证明该方法
具有全局收敛性
算法
本文证明均建立在以下假设基础上
假设
水平集
月二任”二二。
有界
在月的某个邻域,目标函数连续可微,且其梯度满足条件即存在常量,
使得
一二二一日,二,
由假设可知,存在常量产。,使得
二日二产,任口
考察如下非单调搜索
令几,几,任,,占任,, 为一正整数在第次迭代中,给定乏〔久,,几,求步
长乏一瓦少‘,、走一。,,⋯,满足
工“‘二。缪袭仁‘一〕一占走· ·
其中,,镇镇一,,妻另外,引人记号,一镇
毛,
冷仁二走一,
毛斤才
我们引人中的修正算法如下令
,
走才一走,
一、召梦一,一久头一, ,
其中
’岁一万冷一,
月夕杏
庵一,“一日
由和可知
万一
因此搜索方向泛具有充分下降性
算法
步给定参数。几又,。任,,占任,,。,正整数,给定初始点二。任”,并令
步计算,如果掩日。,则停否则按计算走
第期易芳一类非单调修正方法的全局收敛性—
步,
创给定步长任以,,又,庵兔护‘,,,,⋯满足
步
步令是,一,镇〔快一,对〕
令转步
全局收敛性
本节我们证明非单调修正算法的全局收敛性如无特别说明,我们均认定假设条件
成立首先给出几个引理的证明
引理设汤,由算法产生,则
去介‘
证明由等人在文献「中的证明可知,序列是单调非增的,且
二。一一占轰一是一
所以
走一,庵一
定义