文档介绍：运筹学动态规划
多阶段决策问题：是动态决策问题的一种特殊形式。在多阶段决策过程中，系统的动态过程可以按照时间进程分为相互联系而又相互区别的各个阶段，而且在每个阶段都要进行决策。目的是使整个过程的决策达到最优效果。
多阶段决策问题的典型例子：
1 生产决策问题：企业在生产过程中，由于需求是随时间变化的，因此企业为了获得全年的最佳生产效益，就要在整个生产过程中逐月或逐季度地根据库存和需求决定生产计划。
2 机器负荷分配问题：某种机器可以在高低两种不同的负荷下进行生产。在高负荷下进行生产时，产品的年产量g和投入生产的机器数量u1的关系为
g=g(u1)
这时，机器的年完好率为a，即如果年初完好机器的数量为u，到年终完好的机器就为au, 0<a<1。
1
2
n
状态
决策
状态
决策
状态
状态
决策
在低负荷下生产时，产品的年产量h和投入生产的机器数量u2的关系为
h=h(u2)
相应的机器年完好率b, 0< b<1。
假定开始生产时完好的机器数量为s1。要求制定一个五年计划，在每年开始时，决定如何重新分配完好的机器在两种不同的负荷下生产的数量，使在五年内产品的总产量达到最高。
3 航天飞机飞行控制问题：由于航天飞机的运动的环境是不断变化的，因此就要根据航天飞机飞行在不同环境中的情况，不断地决定航天飞机的飞行方向（姿态）和速度，使之能最省燃料和实现目的（如软着落问题）。
不包含时间因素的静态决策问题（本质上是一次决策问题）也可以适当地引入阶段的概念，作为多阶段的决策问题用动态规划方法来解决。
4 线性规划、非线性规划等静态的规划问题也可以通过适当地引入阶段的概念，应用动态规划方法加以解决，后面将详细介绍。
5 最短路问题：给定一个交通网络图如下，其中两点之间的数字表示距离（或花费），试求从A点到G点的最短距离（总费用最小）。
我们将用此例来说明所有动态规划问题的理论和方法。
A
B1
B2
C1
C2
C3
C4
D1
D2
D3
E1
E2
E3
F1
F2
G
5
3
1
3
6
8
7
6
6
8
3
5
3
3
8
4
2
2
1
2
3
3
3
5
5
2
6
6
4
3
1
2
3
4
5
6
1 阶段、阶段变量：把所给问题的过程，适当地分为若干个相互联系的阶段，目的是能按一定的次序去求解。描述阶段的变量称为阶段变量，常用k表示。阶段的划分，一般是分为时间和空间的自然特征来划分，但要便于把问题的过程能转化为多阶段决策的过程。(逆序模型、顺序模型)
2 状态、状态变量：状态表示每个阶段开始所处的自然状况或客观条件，它描述了研究问题过程的状况。通常一个阶段有若干个状态。 描述过程状态的变量称为状态变量。常用sk来表示第k阶段的状态变量。一般来说，状态变量的取值有一定的允许集合或范围，此集合称为是状态允许集合。
第二节： 动态规划的基本概念和定义
3 决策、决策变量：决策表示当过程处于某一阶段的某个状态时，可以做出不同的决定（或选择），从而决定下一阶段的状态，这种决定称为决策。在最优控制中也称为控制。描述决策的变量，称为决策变量。常用uk(sk) 表示第k阶段当状态为 sk时的决策变量。在实际问题中决策变量的取值往往在某一范围之内，此范围称为允许决策集合。常用Dk(sk)表示第k阶段从状态sk出发的允许决策集合，显然有uk(sk) Dk(sk)
Dk表示第k阶段的允许决策集合。
4 多阶段决策过程：就是可以在各个阶段进行决策，去控制过程发展的多段过程。多阶段决策过程的发展是通过一系列的状态转移来实现的，一般来说，系统在某一阶段的状态转移不但于系统的当前（或本阶段）的状态和决策有关，而且还于系统过去的历史状态和决策有关。其状态转移方程如下（一般形式）
1
2
k
s1
u1
s2
u2
s3
sk
uk
sk+1
图示如下：
状态转移方程是确定过程由一个状态到另一个状态的演变过程。如果第k阶段状态变量sk的值、该阶段的决策变量一经确定，第k+1阶段状态变量sk+1的值也就确定。
无后效性或马尔可夫性：如果某阶段状态给定后，则在这个阶段以后过程的发展不受这个阶段以前各段状态的影响。换句话说，过程的过去历史只能通过当前的状态去影响它未来的发展，这个性质称为无后效性。在构造决策过程的动态规划模型时，要充分注意是否满足无后效性的要求。如果状态不能满足无后效性的要求，应适当地改变状态的定义或