3.5-共轭梯度法.ppt

文档介绍：线性方程组解与二次型极小
考虑 阶对称正定线性方程组
（3－62）
定义二次函数
设 对称正定，则
Date
计算方法
证明 必要性 设
将任一
表为
其中
于是
Date
计算方法
充分性
设
由多元函数极值理论，应有
这恰好相当于
Date
计算方法
最速下降法
任取初始向量
局部地，在负梯度方向
上，
减小最快。
一维搜索：选取
使得
于是，
Date
计算方法
又注意
因此，
于是，令
Date
计算方法
一般地
可以证明
1）
2）
其中
为
的按模最大最小特征值，
最速下降法收敛慢，而且不稳定。
锯齿形路径！
Date
计算方法
. 共轭梯度法（共轭斜量法）
1） 任给初始近似
2） 对
计算：
令
其中
其中



（从
出发，在
方向取极小值。）
（
处
的梯度。）
（新的搜索方向：梯度方向与上次搜索方向的组合，与
垂直。
Date
计算方法
可以证明：
即
由性质1），必存在
使得
Yeh！
共轭梯度法可以应用于非线性方程组！
但是，尚需考虑舍入误差！
Date
计算方法
例1 用共轭梯度法解线性方程组
0
0 0 0
1 1 1
1 1 1
1
2
0 0 0
Date
计算方法
测验题：
证明：
从
出发，在
方向对
其中
取极小值，便得
Date
计算方法