文档介绍：运筹学动态规划
第1页，本讲稿共82页
动态规划是用来解决多阶段决策过程最优化的一种数量方法。其特点在于，它可以把一个n 维决策问题变换为几个一维最优化问题，从而一个一个地去解决。
需指出：动态规划是求解某类问题决策有关，而且还与系统过去的历史状态和决策有关。
第10页，本讲稿共82页
图示如下：
状态转移方程是确定过程由一个状态到另一个状态的演变过程。如果第k阶段状态变量sk的值、该阶段的决策变量一经确定，第k+1阶段状态变量sk+1的值也就确定。
其状态转移方程如下（一般形式）
1
2
k

s1
u1
s2
u2
s3
sk
uk
sk+1
能用动态规划方法求解的多阶段决策过程是一类特殊的多阶段决策过程，即具有无后效性的多阶段决策过程。
第11页，本讲稿共82页
如果状态变量不能满足无后效性的要求，应适当地改变状态的定义或规定方法。
动态规划中能
处理的状态转移
方程的形式。
状态具有无后效性的多阶段决策过程的状态转移方程如下
无后效性(马尔可夫性)
如果某阶段状态给定后，则在这个阶段以后过程的发展不受这个阶段以前各段状态的影响；
过程的过去历史只能通过当前的状态去影响它未来的发展；
构造动态规划模型时，要充分注意是否满足无后效性的要求；
状态变量要满足无后效性的要求；
第12页，本讲稿共82页
5、策略：相互连接的决策序列称为一个策略。
从第k阶段开始到第n阶段结束称为一个子策略。
Pk,n , 全策略 P1,n .
所有策略当中有最优值的策略称为最优策略。
6、状态转移方程：是确定过程由一个状态到另一个状态的演变过程，描述了状态转移规律。
第13页，本讲稿共82页
7、指标函数和最优值函数：用来衡量所实现过程优劣的一种数量指标，为指标函数。
阶段指标函数： Vk (sk ,uk ) 表示第 k 阶段位于sk 状态、决策为 uk 的指标值。
策略指标函数：各决策序列指标值之和。（个别情况为乘积）
指标函数的最优值，称为最优值函数。在不同的问题中，指标函数的含义是不同的，它可能是距离、利润、成本、产量或资源消耗等。
动态规划模型的指标函数，应具有可分离性，并满足递推关系。
第14页，本讲稿共82页
小结:
方程 :状态转移方程
概念 : 阶段变量k﹑状态变量sk﹑决策变量uk;
指标:
动态规划本质上是多阶段决策过程;
效益
指标函数形式:
和、
积
无后效性
可递推
第15页，本讲稿共82页
解多阶段决策过程问题，求出
最优策略，即最优决策序列
f1(s1)
最优轨线，即执行最优策略时的状态序列
最优目标函数值
从 k 到终点最优策略
子策略的最优目标函数值
第16页，本讲稿共82页
1、动态规划方法的关键在于正确地写出基本的递推关系式和恰当的边界条件（简称基本方程）。要做到这一点，就必须将问题的过程分成几个相互联系的阶段，恰当的选取状态变量和决策变量及定义最优值函数，从而把一个大问题转化成一组同类型的子问题，然后逐个求解。即从边界条件开始，逐段递推寻优，在每一个子问题的求解中，均利用了它前面的子问题的最优化结果，依次进行，最后一个子问题所得的最优解，就是整个问题的最优解。
（二）、动态规划的基本思想
第17页，本讲稿共82页
2、在多阶段决策过程中，动态规划方法是既把当前一段和未来一段分开，又把当前效益和未来效益结合起来考虑的一种最优化方法。因此，每段决策的选取是从全局来考虑的，与该段的最优选择答案一般是不同的.
最优化原理：作为整个过程的最优策略具有这样的性质：无论过去的状态和决策如何，相对于前面的决策所形成的状态而言，余下的决策序列必然构成最优子策略。”也就是说，一个最优策略的子策略也是最优的。
3、在求整个问题的最优策略时，由于初始状态是已知的，而每段的决策都是该段状态的函数，故最优策略所经过的各段状态便可逐段变换得到，从而确定了最优路线。
第18页，本讲稿共82页
（三）、建立动态规划模型的步骤
1、划分阶段k
划分阶段是运用动态规划求解多阶段决策问题的第一步，在确定多阶段特性后，按时间或空间先后顺序，将过程划分为若干相互联系的阶段。对于静态问题要人为地赋予“时间”概念，以便划分阶段。
2、正确选择状态变量sk
选择变量既要能确切描述过程演变又要满足无后效性，而且各阶段状态变量的取值能够确定。一般地，状态变量的选择是从过程演变的特点中寻找。
3、确定决策变量uk(sk)及允许决策集合Dk(sk)