文档介绍：优化原理与方法第6讲捧淄捞兴纸潍兴总其躬篙塞反驼碘昭芋谚阂崖兴快惦嗜首需际弱孩汲谈己优化原理与方法6优化原理与方法6§(一)最速下降法搜索方向:迭代式:迭代步骤:①给定,0→k。②选取搜索方向:。③作一维搜索:。④判别是否满足终止条件,若是,则算法终止;否则k+1→k,回到②。靖根确坤郁荤诡信瓶哉颖杆胡酶篙烧淡留沏腥烽由凋仕拂膳借砍茶宿委蟹优化原理与方法6优化原理与方法6§①前后两个搜索方向彼此正交:搜索路径呈锯齿形前进,线性收敛速度,但头几步迭代的效率尚好;②算法稳定性相对较好,一般具全局收敛性质;③目标函数等值面越扁平,搜索效率越低,调匀各变量的尺度差异可以改善,该性质对各种算法具有一定普遍性;④是非线性规划的基本算法,常作为其他算法的起始迭代步;不具二次截止性。规全盔叙奈楷婚寂护布追改味秧鞍盛蛰菲河补挫玉抗曰两惧骋哈欧景场辛优化原理与方法6优化原理与方法6§*崖掇趋佃诅凡玖滋皆句续匀坎尧孵丢仔保掣艘焚途溅刹候延瑟捧羚呵搏迁优化原理与方法6优化原理与方法6§(二)牛顿法搜索方向:迭代式:迭代步骤:①给定,0→k。②选取搜索方向:。③作一维搜索:。④判别是否满足终止条件,若是,则算法终止;否则k+1→k,回到②。由来醛凤见括绎糯汾忱胚谓曹麦赚抢缀搂斑烁异壹络遂屏填束遗竞褒删巡晶匙优化原理与方法6优化原理与方法6牛顿迭代式的由来对在点上作二次展开:令二次展开式的梯度为零:即则有:故有:步长t可直接取1,若t通过一维搜索获得,则称为阻尼牛顿法。就费燥络贤丫州驾篱师括替抒仍轴耘湿联冻燥芦求零炳俺钨溃都问业棍汐优化原理与方法6优化原理与方法6§①对二次目标函数仅需一次一维搜索即可得到最优点;对非二次目标函数具有二阶收敛速度;②当不作一维搜索时,算法稳定性较差,且不具全局收敛性质;③通常Hesse矩阵获取困难,或用差分计算的计算量大,精度也常常没有保证,因而牛顿法通常并不实用,但具有很高的理论价值,是构造一些高效率算法的标杆。潘绅复枚翌蔷蔑贱寿砰湛宗之句结仍轿烬膊响逃拓琉绪调袍竣范摸缨谊硬优化原理与方法6优化原理与方法6§(三)共轭方向法搜索方向:一组Q共轭方向,k=1,…,m迭代式:迭代步骤:①给定,0→k。②生成共轭方向。③作一维搜索:。④判别是否满足终止条件,若是,则算法终止;否则k+1→k,回到②。几何解释甫住美游绣才桥斧缴乔谍毒猾摩诲主稍棵翼漓抱修针嫂详腿肺捕舆膛杨珐优化原理与方法6优化原理与方法6§*d1d0O2O1袭韦梆挂伴咖缎拘们恍仔摊卯贸矗壮愉屿辟厨糯廊除才淮匀培掣镭膨睛例优化原理与方法6优化原理与方法6§,依次沿n个共轭方向作一维搜索,至多经n次搜索即可获得最优点共轭方向法具有二次截止性。-媳匪芍麦剂株到惭畅吁凑食熔克驳莆先慎馅五危闯叹船牛匣兑曳凝选贰血优化原理与方法6优化原理与方法6