HMM

隐马尔可夫模型的基本概念

定义

image-20211004103723091

image-20211004103755852

image-20211004103805306

隐马尔可夫模型可以用于标注，这时状态对应着标记。标注问题是给定观测的序列预测其对应的标记序列。可以假设标注问题的数据是由隐马尔可夫模型生成的。这样我们可以利用隐马尔可夫模型的学习与预测算法进行标注。

观测序列的生成过程

image-20211004103858277

隐马尔可夫模型的3个基本问题

image-20211004103930637

概率计算方法

直接计算法

image-20211004104204727

但是，这样计算量很大，是O(TN^T)阶的，这种算法不可行。

前向算法

前向概率

image-20211004104943041

image-20211004104955944

image-20211004105009657

image-20211004105020710

后向算法

image-20211004105706346

image-20211004105716328

image-20211004105728736

一些概率与期望值的计算

image-20211004110118938

image-20211004110130104

image-20211004110140552

学习算法

隐马尔可夫模型的学习，根据训练数据是包括观测序列和对应的状态序列还是只有观测序列，可以分别由监督学习与无监督学习实现。

监督学习方法

image-20211005201243275

image-20211005201255203

Baum-Welch算法

image-20211005201323941

image-20211005201342172

image-20211005201401229

image-20211005201409276

image-20211005201451224

image-20211005201506003

image-20211005201514202

预测算法

近似算法

image-20211005201535780

维特比算法

image-20211005201550133

image-20211005201559570

image-20211005201611477

image-20211005201620473