文档介绍：变尺度法
DFP变尺度法首先有戴维顿（Davidon）与1959年提出，又于1963年由弗莱彻（Fletcher）和鲍维尔加以发展和完善，成为现代公认的较好的算法之一。
DFP法是基于牛顿法的思想又作阵的逆阵）
鲍威尔法是以共轭方向为基础的收敛较快的直接法之一，是一种十分有效的算法。 1964年，鲍维尔提出这种算法，其基本思想是直接利用迭代点的目标函数值来构造共轭方向，然后从任一初始点开始，逐次沿共轭方向作一维搜索求极小点。并在以后的实践中进行了改进。
鲍威尔法
设 A 为 n×n 阶实对称正定矩阵，如果有两个 n 维 非零向量 S1 和 S2，满足：
则称向量 S1 和 S2 对于矩阵 A 共轭，S1和S2称之为共轭方向。
若A为单位矩阵，则两个向量是什么关系？
共轭是正交的推广
共轭方向的定义
若有一组非零向量S1，S2，…，Sn，满足：
则称向量系 Si (i=1, 2…, n) 称为矩阵 A的共轭向量系
注：若A=I，则向量系 Si (i=1, 2…, n) 称为正交向量系。
共轭向量
共轭方向的几何意义
同心椭圆簇的几何性质：任意做两条平行线，与椭圆组中的两椭圆切于点 x(1)，x(2) 。该两点必通过椭圆的中心；或者说，过椭圆中心做任意直线与任意两个椭圆相交，通过交点作椭圆切线必互相平行。
切线的方向S1与两切点连线的方向S2，就是一对共轭方向。
正定二次二元函数，经过两次共轭方向搜索，就可搜到极小点
对函数：
基本思想：在不用导数的前提下，在迭代中逐次构造G的共轭方向。
设xk, xk+1为从不同点出发，沿同一方向Sj进行一维搜索而到的两个极小点。
梯度和等值面相垂直的性质, Sj和 xk, xk+1两点处的梯度gk,gk+1之间存在关系:
另一方面，对于上述二次函数，其xk, xk+1两点处的梯度可表示为:
这说明只要沿Sj方向分别对函数作两次一维搜索，得到两个极小点xk和xk+1 ，那么这两点的连线所给出的方向Sk就是与Sj一起对G共轭的方向。
二维情况描述鲍威尔的基本算法:
1）任选一初始点x01及两个线性无关的向量，如坐标轴单位向量e1=[1,0]T和e2=[0,1]T作为初始搜索方向。
2）从x0出发，顺次沿e1， e2作一维搜索，得 点，两点连线得一新方向S1
方法的基本迭代格式:
共轭方向产生 方向替换
二维情况描述鲍威尔的基本算法:
再从 出发，沿S1作一维搜索得点 ，完成第一次搜索，末点作为下一轮迭代的初始点。
用 S1代替e1形成两个线性无关向量 e2 S1 ，作为下一轮迭代的搜索方向。并把新方向放最后。
3）从 出发，顺次沿e2,S1 作一维搜索，得到点 ，两点连线得一新方向: S2
二维情况描述鲍威尔的基本算法:
沿S2作一维搜索得点x2，完成第二次搜索。
即是二维问题的极小点x* .
把二维情况的基本算法扩展到n维，则鲍威尔基本算法的要点是：
在每一轮迭代中总有一个始点（第一轮的始点是任选的初始点）和n个线性独立的搜索方向。从始点出发顺次沿n个方向作一维搜索得一终点，由始点和终点决定了一个新的搜索方向,按此方向搜索，完成第一轮搜索。
用这个方向替换原来n个方向中的一个，于是形成新的搜索方向组。替换的原则是去掉原方向组的第一个方向而将新方向排在原方向的最后。此外规定，从这一轮的搜索终点出发沿新的搜索方向作一维搜索而得到的极小点，作为下一轮迭代的始点。这样就形成算法的循环。
因为在迭代中的n个搜索方向有时会变成线性相关而不能形成共轭方向。这时张不成n维空间，可能求不到极小点，所以上述基本算法有待改进。
在鲍威尔基本算法中，每一轮迭代都用连结始点和终点所产生出的搜索方向去替换原向量组中的第一个向量，而不管它的“好坏”，这是产生向量组线性相关的原因所在。
在改进的算法中首先判断原向量组是否需要替换。如果需要替换，还要进一步判断原向量组中哪个向量最坏，然后再用新产生的向量替换这个最坏的向量，以保证逐次生成共轭方向。
为此，要解决两个关键问题：
（1）Sk＋1是否较好？是否应该进入新的方向组？即方向组是否进行更新？
（2）如果应该更新方向组， Sk＋1不一定替换方向 ，而是有选择地替换某一方向 。
令在k次循环中
分别称为一轮迭代的始点、终点和反射点 。
（
）
则在循环中函数下降最多的第m次迭代是
记：
相应的方向