文档介绍：隐马尔可夫模型
董启文
目录
马尔可夫性和马尔可夫链
HMM实例
HMM的三个基本问题
HMM模型扩展
马尔可夫性
如果一个过程的“将来”仅依赖“现在”而不依赖“过去”,则此过程具有马尔可夫性,或称此过程为马尔可夫过程
X(t+1) = f( X(t) )
马尔科夫链
时间和状态都离散的马尔科夫过程称为马尔科夫链
记作{Xn = X(n), n = 0,1,2,…}
在时间集T1 = {0,1,2,…}上对离散状态过程的相继观察的结果
链的状态空间记做I = {a1, a2,…}, ai∈R.
条件概率Pij ( t ,t+1)=P{Xt+1 = aj|Xt = ai} 为马氏链在时刻t处于状态ai条件下,在时刻t+1转移到状态aj的转移概率。
转移概率矩阵
阴天
晴天
下雨
晴天阴天下雨
晴天
阴天
下雨
转移概率矩阵(续)
由于链在时刻m从任何一个状态ai出发,到另一时刻m+1,必然转移到a1,a2…,诸状态中的某一个,所以有
当Pij(m,m+1)与m无关时,称马尔科夫链为齐次马尔科夫链,通常说的马尔科夫链都是指齐次马尔科夫链。
HMM实例1
Observed Ball Sequence
Urn 3
Urn 1
Urn 2
Veil
HMM实例1——描述
设有N个缸,每个缸中装有很多彩球,球的颜色由一组概率分布描述。实验进行方式如下
根据初始概率分布,随机选择N个缸中的一个开始实验
根据缸中球颜色的概率分布,随机选择一个球,记球的颜色为O1,并把球放回缸中
根据描述缸的转移的概率分布,随机选择下一口缸,重复以上步骤。
最后得到一个描述球的颜色的序列O1,O2,…,称为观察值序列O。
HMM实例1——约束
在上述实验中,有几个要点需要注意:
不能被直接观察缸间的转移
从缸中所选取的球的颜色和缸并不是
一一对应的
每次选取哪个缸由一组转移概率决定
HMM实例2:硬币赌博
观测值:正面(H Head)、反面(T Tail)
硬币: 真(F Fair)、假(B Bais)
HHHHTTTTHHTTHTTTTHHH…
FFFFBBBBFFFFBBBBFFFFF…