1 / 5
文档名称:

最优化理论方法——牛顿法.doc

格式:doc   大小:260KB   页数:5页
下载后只包含 1 个 DOC 格式的文档,没有任何的图纸或源代码,查看文件列表

如果您已付费下载过本站文档,您可以点这里二次下载

分享

预览

最优化理论方法——牛顿法.doc

上传人:泰山小桥流水 2022/8/15 文件大小:260 KB

下载得到文件列表

最优化理论方法——牛顿法.doc

相关文档

文档介绍

文档介绍:牛顿法
牛顿法作为求解非线性方程的一种经典的迭代方法,它的收敛速度快,有内在函数能够直接使用。联合着matlab能够对其进履行用,求解方程。
牛顿迭代法(Newton’smethod)又称为牛顿-拉夫逊方法(Newton-Rap远离最优解时,Hesse矩阵Gk不一定正定。牛顿方
向不一定是下降方向,其收敛性不能保证。这说明恒取步长因子为1的牛顿法是
不合适的,应当在牛顿法中采用某种一维搜寻来确定步长因子。可是应当强调,
仅当步长因子k收敛到1时,牛顿法才是二阶收敛的。这时牛顿法的迭代公式
为:
dkGk1gk,xk1xkkdk
其中k是一维搜寻产生的步长因子。
带步长因子的牛顿法
步1
选用初始数据,取初始点x0,终止误差
0,令k:
0。
步2
计算gk。若gk
,停止迭代,输出xk,否则进行步3.
步3
解方程组结构牛顿方向,即解
Gkd
gk,求出dk。
步4
进行一维搜寻,求
k使得
fx
k
dkminfx
d
k
0
k
k,
令xk1
xk
kdk,k:k1
转步2
牛顿法的计算步骤:
步骤1
准备
选定初始近似值x0
,计算f0
f
x0
,f0'
f'x0。
步骤2
迭代
按公式:
x1
f0
迭代一次,得新的近似值x1,
x0
f0'
f1
fx1,f1'
f'x1。
步骤3
控制
如果x1知足
1,或f1
2,则终止迭代,以x1作为所求的
根;否则转步骤
,1,
2是允许误差,而:
x1
x0,当x1
C时;
x1
x0,当x1
C时,
x1
其中C是取绝对误差或相对误差的控制常数,一般可取
C=1。
步骤4
改正
如果迭代次数达到预先拟订的次数
N,或许f1'=0,则方法失败;
否则以x1,f1,f1'
代替x0,f0,f0'
,转步骤2持续迭代。
牛顿法的改良
在优化问题的计算中,牛顿迭代法是非线性方程求根中一种很实用的方法,它拥有简单的迭代格式和较快的收敛速度,它二次收敛到单根,线性收敛到重根。数值计算中的经典
牛顿法面对的主要问题是Hesse矩阵Gk不正定,这时候二次模型不一定有极
小点,甚至没有平稳点。当Gk不准时,二次模型函数是无界的。
Goldstein和Price(1967)提出当Gk非正准时,采用最速下降方向gk。Goldfeld
等人(1966年)提出了一种修正方法,即便牛顿方向偏向最速下降方向gk。更
明确的说,就是将模型的Hesse矩阵Gk改变成Gk
vkI,其中vk
0,使得Gkv