文档介绍:该【无约束优化方法公开课获奖课件赛课一等奖课件 】是由【业精于勤】上传分享,文档一共【94】页,该文档可以免费在线阅读,需要了解更多关于【无约束优化方法公开课获奖课件赛课一等奖课件 】的内容,可以使用淘豆网的站内搜索功能,选择自己适合的文档,以下文字是截取该文章内的部分文字,如需要获得完整电子版,请下载此文档到您的设备,方便您编辑和打印。第5章 无约束优化措施
§5-1 最速下降法(梯度法)
§5-2 牛顿类措施
§5-3 变尺度法
§5-4 共轭方向法
§5-5 鲍威尔措施
§5-6 其他措施(如坐标轮换法、单纯形法)
第1章所列举的机械优化设计问题,都是在一定的限制条件下追求某一指标为最小,它们都属于约束优化问题。工程问题大都如此。
为何要研究无约束优化问题?
(1)有些实际问题,其数学模型自身就是一种无约束优化问题。
(2)通过熟悉它的解法可以为研究约束优化问题打下良好的基础。
(3)约束优化问题的求解可以通过一系列无约束优化措施来达到。因此无约束优化问题的解法是优化设计措施的基本构成部分,也是优化措施的基础。
(4)对于多维无约束问题来说,古典极值理论中令一阶导数为零,但规定二阶可微,且要判断海赛矩阵为正定才能求得极小点,这种措施有理论意义,但无实用价值。和一维问题同样,若多元函数F(X)不可微,亦无法求解。但古典极值理论是无约束优化措施发展的基础。
目前已研究出诸多种无约束优化措施,它们的重要不一样点在于构造搜索方向上的差异。
(1)间接法——要使用导数,如梯度法、(阻尼)牛顿法、变尺度法、共轭梯度法等。
(2)直接法——不使用导数信息,如坐标轮换法、鲍威尔法单纯形法等。
无约束优化问题是:
求n维设计变量
使目标函数
搜索方向的构成问题乃是无约束优化措施的关键。
用直接法寻找极小点时,不必求函数的导数,只要计算目的函数值。此类措施较合用于处理变量个数较少的(n ≤20)问题,一般状况下比间接法效率低。间接法除要计算目的函数值外,还要计算目的函数的梯度,有的还要计算其海赛矩阵。
5-1 梯度法
基本思想:函数的负梯度方向是函数值在该点下降最快的方向。将n维问题转化为一系列沿负梯度方向用一维搜索措施寻优的问题,运用负梯度作为搜索方向,故称最速下降法或梯度法。
搜索方向s取该点的负梯度方向 (最速下降方向) ,使函数值在该点附近的范围内下降最快 。
为了使目标函数值沿搜索方向 能够获得最大的下降值,其步长因子 应取一维搜索的最佳步长。即有
根据一元函数极值的必要条件和多元复合函数求导公式,得
在最速下降法中,相邻两个迭代点上的函数梯度互相垂直。而搜索方向就是负梯度方向,因此相邻两个搜索方向互相垂直。这就是说在迭代点向函数极小点靠近的过程,走的是曲折的路线。形成“之”字形的锯齿现象,并且越靠近极小点锯齿越细。
图5-2 最速下降法的搜索途径
措施特点
(1)初始点可任选,每次迭代计算量小,存储量少,程序简短。虽然从一种不好的初始点出发,开始的几步迭代,目的函数值下降很快,然后慢慢迫近局部极小点。
(2)任意相邻两点的搜索方向是正交的,它的迭代途径为绕道迫近极小点。当迭代点靠近极小点时,步长变得很小,越走越慢。