文档介绍:最优化方法最速下降法算法思想由Taylor公式有f(x+qp)=f(x)+ag(x)p+o(a‖p‖由于gPP0哪个方向最快?>0Step1,取初始点x,令k=0Step2,计算gA=g(x,)Step3,若‖g:‖≤ε,则x=x,停;杳则,令p=-g,由一维搜索求步长a,使得f(x+a,P,)=min/(x+ap:)step4,令x,1=x4+ap,k=k+1,→0不成立,则存在ε>0及无穷多个k,使对这样的k,有p4∥‖pl‖l整个证明的思路是怎么样的?于是,由Taylor公式xpk>(1)pf(x)+agipa5)-8丁p4f∫(x2)Lgp4/‖p,‖+|g()-g4其中号在x1与x+ap的连线线段上出于g(x)连续且L有界,所以g(x)在L上一致连续,故存在a>O,使当0≤a‖p。‖≤a时,对所有k所立,在式()中取α=a川‖p4‖,则有/(x+IPTp./x,+ap/p:+g(5,≤f(x)+a[-∈0+2只要不趋向于0,就有下降∫(x)从而有/p)f(xm)=minf(x,+ap,)sf(x,+≤/(x1)-1对于无穷多个k成立,这与式()→>.↑用最速下降法求解minf(x)=设初始点为(9,1)T解g(09显然,目标函数是正定二次函数,有唯一的极小点x=(0,0)可以证明课堂练习),如果f(x)是正定二次函数,则由精确一维搜索()确定的步长α满足gkpPGprgkgg由于g。=g(x)=(9,9),所以由上式可得9101(99/-(-/(9类似地计算下去,并可用归纳法证明,()k,k=1,2…显然,x2→x,且‖,可见对所给目标函数,算法是收敛的,收敛速度是线性的由()所给点列描绘在图3-1中,从图上可以看出,两个相邻的搜索方向是正交的图能证明吗?