3.5 共轭梯度法.ppt

文档介绍：共轭梯度法
由NordriDesign提供

证明 必要性 设
将任一
表为
其中
于是
充分性
设
由多元函数极值理论，应有
这恰好相当于
共轭梯度法
由NordriDesign提供

证明 必要性 设
将任一
表为
其中
于是
充分性
设
由多元函数极值理论，应有
这恰好相当于
最速下降法
任取初始向量
局部地，在负梯度方向
上，
减小最快。
一维搜索：选取
使得
于是，
又注意
因此，
于是，令
一般地
可以证明
1）
2）
其中
为
的按模最大最小特征值，
最速下降法收敛慢，而且不稳定。
锯齿形路径！
. 共轭梯度法（共轭斜量法）
1） 任给初始近似
2） 对
计算：
令
其中
其中



（从
出发，在
方向取极小值。）
（
处
的梯度。）
（新的搜索方向：梯度方向与上次搜索方向的组合，与
垂直。
可以证明：
即
由性质1），必存在
使得
Yeh！
共轭梯度法可以应用于非线性方程组！
但是，尚需考虑舍入误差！
例1 用共轭梯度法解线性方程组
0
0 0 0
1 1 1
1 1 1
1
2
0 0 0