文档介绍：第一页，课件共35页
或
解法：Lagrange乘子法
实例
数据拟合问题原料切割问题运输问题营养配餐问题分配问题
基本概念
1. 最优化问题的向量表示法
设
则
（1）
第二页，课件共35页
以向量为变量的实值函数
定义向量间的序关系()：
等于＝，小于
，严格小于
。由此
（2）
以向量为变量的实向量值函数最优化问题的一般形式
（3）
第三页，课件共35页
2. 最优化问题的分类
试验问题：用于检验、比较最优化方法优劣的一些最优化问题。
3. 术语
目标函数
等式约束
不等式约束
容许解（点）
容许集
第四页，课件共35页
求解问题（3）是指：在容许集
中找一点
目标函数
在该点取极小值，即对于容许集中的任
，总有
意一点
最优点（极小点）
最优值
最优解
严格极小点
局部
非严格极小点
严格极小点
非严格极小点
全局
，使得
第五页，课件共35页
到目前为止，大多数最优化算法求到的都是局部极小点。为了求得全局极小点，一种解决办法是，先求出所有的局部极小点，然后再从中找出全局极小点。
4. 极大值问题与极小值问题的关系
第六页，课件共35页
第七页，课件共35页
二维问题图解法
二维极值问题有时可以用图解的方式进行求解，有
明显的几何解释。
例求解
第八页，课件共35页
图解法的步骤：
，显然
；
②取
并画出相应的曲线（称之为等值线）.
③确定极值点位置，并用以往所学方法求之。
易知本题的极小值点
。
。
虽然三维及以上的问题不便于在平面上画图，图解法失效，但仍有相应的等值面的概念，且等值面具有以下性质：
①有不同函数值的等值面互不相交（因目标函数是单值函数的缘故）；
②等值面不会在区域的内部中断，除了极值点所在的等值面以外。这是由于目标函数是连续函数的缘故；
①令
第九页，课件共35页
⑶等值面稠密的地方，目标函数值变化得比较快；等值面稀疏的地方，目标函数值变化得比较慢；
⑷在极值点附近，等值面（等值线）一般近似地呈现为同心椭球面族（椭圆线族）。
梯度和Hesse矩阵
本段讨论都基于对函数
以下及今后的讨论中还经常要用到以下一些向量的知识。
可微的假定。
第十页，课件共35页