隐马尔可夫模型python_隐马尔可夫模型HMM及Python实现

article/2025/9/16 23:38:34

286fcbbae47a0025fa9e195cfda76304.png

隐马尔可夫模型差不多是学习中遇到的最难的模型了,本节通过对《统计学习方法》进行学习并结合网上笔记,用Python代码实现了隐马模型观测序列的生成、前向后向算法、Baum-Welch无监督训练、维特比算法。比较清晰的了解了隐马尔可夫模型,其实在实际运用中我们只需要调用库就一行代码解决问题。

在调用分词函数时就采用的隐马尔可夫模型HMM原理来进行切词。

134186710_1_20180527113242207

具体原理解释介绍如下:

1 隐马尔可夫模型定义

隐马尔可夫模型是关于时序的概率模型,描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列,再由各个状态生成一个观测而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列,称为状态序列(state sequence);每个状态生成一个观测,而由此产生的观测的随机序列,称为观测序列(observation sequence)。序列的每一个位置又可以看作是一个时刻。

什么叫隐马尔科夫链呢?简单说来,就是把时间线看做一条链,每个节点只取决于前N个节点。就好比你打开朋友圈通过你朋友的最近几条状态就可以判断他接下来要干嘛。

接下来引入一些符号来表述定义:

设Q是所有可能的状态的集合,V是所有可能的观测的集合。

134186710_2_20180527113242285

其中,N是可能的状态数,M是可能的观测数。

状态q不可见,观测v可见。应用到词性标注系统,词就是v,词性就是q。

I是长度为T的状态序列,O是对应的观测序列。

134186710_3_20180527113242332

这可以理解为相当于给定了一个词(O)+词性(I)的训练集或者说是中文分词系统里的词典。

定义A为状态转移概率矩阵:

134186710_4_20180527113242363

其中,

134186710_5_20180527113242394

是在时刻t处于状态qi的条件下在时刻t+1转移到状态qj的概率。

这实际在表述一个一阶的HMM,所作的假设是每个状态只跟前一个状态有关。

B是观测概率矩阵:

134186710_6_20180527113242441

其中,

134186710_7_20180527113242472

是在时刻t处于状态qj的条件下生成观测vk的概率。

π是初始状态概率向量:

134186710_8_20180527113242503

其中,

134186710_9_20180527113242535

是时刻t=1处于状态qj的概率。

隐马尔可夫模型由初始状态概率向量π、状态转移概率矩阵A和观测概率矩阵B决定。π和A决定状态序列,B决定观测序列。因此,隐马尔可夫模型可以用三元符号表示,即

134186710_10_20180527113242582

括号里的三个变量称为隐马尔可夫模型的三要素。加上一个具体的状态集合Q和观测序列V,则构成了HMM的五元组。

状态转移概率矩阵A与初始状态概率向量π确定了隐藏的马尔可夫链,生成不可观测的状态序列。观测概率矩阵B确定了如何从状态生成观测,与状态序列综合确定了如何产生观测序列。

从定义可知,隐马尔可夫模型作了两个基本假设:

(1)齐次马尔可夫性假设,即假设隐藏的马尔可夫链在任意时刻t的状态只依赖于其前一时刻的状态,与其他时刻的状态及观测无关。

134186710_11_20180527113242597

(2)观测独立性假设,即假设任意时刻的观测只依赖于该时刻的马尔可夫链的状态,与其他观测及状态无关。

134186710_12_20180527113242628

2 观测序列的生成过程

根据隐马尔可夫模型定义,将一个长度为T的观测序列O的生成过程描述如下:

观测序列的生成算法:

输入:隐马尔可夫模型


http://chatgpt.dhexx.cn/article/X5I0qhPy.shtml

相关文章

隐马尔可夫模型(三)预测问题

概率计算问题 已知模型λ和观测序列O,求对给定观测序列条件概率P(I|O)最大的状态序列。即给定观测序列,求最有可能的对应的状态序列。 解决算法 近似算法 近似算法的核心思想是在每个时刻t选择在该时刻最有可能出现的状态 it*&…

win10c盘扩容_Win10中无损分区扩容调整大小

各位看官,上回书表到那里小生不记得了。今天咱们表一表在win10中无损分区扩容调整大小的方法。全程图文并茂,深入浅出,谁都可以一看就会。 所需工具:1、win10系统 2、DiskGenius软件 最终目的:你的C盘空间渐小需要扩容。选择C盘外的任何物理分区比如d盘,将之分出10G大小增…

win2008服务器c盘在线扩容,win7 win10 win2008系统给主分区C盘增加空间 不破坏原硬盘内容扩充C盘 MiniTool Partition Wizard...

最近一直苦恼win7的C盘的问题,当初给C盘分区分了40G,感觉够大的了,可是现在却不够用,每天见红。网上搜索的教程大多是把扩展分区的逻辑盘删除,再扩充C盘。但本人电脑东西太多,搬运太麻烦。肯定不能删。于是…

win7如何调整计算机c盘,win7系统让c盘和d盘合并的两种方法

有时我们可能需要将雨林木风win7系统电脑的两个盘符合并,这样可以增大内存空间,比如让c盘和d盘合并,这样就有足够的空间了。之前小编教程分享win7系统分区的方法,但是要让c盘和d盘合并该怎么操作呢?相信还是有很多小伙…

计算机c盘无法扩展,电脑c盘怎么扩大_C盘空间不足的扩大步骤-win7之家

C盘是电脑中重要的系统盘,我们电脑使用时间久了之后空间就会变得越来越小,导致C盘空间不足影响电脑运行速度,有些用户可能不想要删除C盘文件,那么我们可以通过扩大C盘空间来解决,很多用户不知道电脑c盘怎么扩大&#x…

计算机管理扩展灰色,为什么c盘扩展卷灰色?win7系统c盘扩展卷灰色如何解决

在Widow7系统使用一段时间后,发现C盘的空间越来越小,严重时出现卡顿问题。有什么办法不重转系统就可以加大C盘的空间?可以通过扩展卷功能用于扩展C盘的容量,遇到c盘扩展卷灰色问题怎么办?下面给大家介绍win7系统c盘扩展卷灰色的解…

计算机把C盘无法扩展,如何解决可分配空间却无法扩展C盘的问题?

4个人同意答案 谢谢. 仅相邻分区可以扩展或合并. 您还可以将可用分区移至c驱动器,然后进行扩展. 以您的分区为例. 在移动过程中,本质是复制先前的恢复分区的数据粘贴到后空区域,大小与先前的恢复分区一样大,然后删除先前的恢复分区…

计算机C盘能扩展吗,为什么电脑c盘没有扩展卷(原因揭秘及扩大c盘空间的方式)...

经常有人跟我说,自己的C盘越来越小了,或者C盘太小,怎么扩大?C盘空间越来越小,会导致电脑运行速度变慢,当C盘满了,估计开机都要开不了!究其原因,大部分都是在安装软件的时…

虚拟机扩展C盘容量方法

目的:扩展虚拟机C盘容量 问题:01:如何增加虚拟机硬盘容量? 02:右键C盘,扩展卷选项为什么是灰色的? 03:如何删除不想使用的分区?右键分区删除卷选项为什么是灰色的&#x…

计算机d盘给c盘,win10电脑D盘合并分区到c盘的两种方法

电脑安装上win10系统后发现C盘太小了,要把D盘里面的容量给合并到C盘里面去的,扩大系统盘容量。相信很多win10网友们都不会win10电脑D盘合并分区到c盘的操作,我们可以用自带的工具合并到C盘,下文给大家分享win10电脑D盘合并分区到c…

d盘莫名其妙被占空间 win10_Win10系统C盘空间突然爆满的解决方法

当电脑操作系统使用很久后,你就会发现系统盘C盘的容量越来越小,而C盘容量大小还影响到系统运行速度的快慢,那么我们该怎么解决C盘容量变小的情况呢,下面,小编就给大家分享Win10系统C盘突然爆满的解决方法。 系统自带软件就能扩容C盘! 很多朋友在装系统时给C盘分配容量太小…

计算机把C盘无法扩展,c盘不能扩展卷【解决教程】

喜欢使用电脑的小伙伴们一般都会遇到win7系统c盘不能扩展卷的问题,突然遇到win7系统c盘不能扩展卷的问题就不知道该怎么办了,其实win7系统c盘不能扩展卷的解决方法非常简单,按照 1:打开计算机页面选择计算机使用鼠标右键单击弹出下…

计算机管理为什么不能扩展卷,Win10 C盘不能扩展卷怎么解决?

在使用电脑的过程中,如果一个磁盘空间不足,通常我们可以在其它磁盘中分割一部分空间给空间不足的磁盘,也就是我们常用的磁盘管理中的压缩卷和扩展卷了,但是最近有Win10系统用户C盘空间不足,想要扩展卷可是发现扩展卷是…

windows10 C盘后面有一个恢复分区,无法扩展C盘的解决办法

像我的电脑那样,安装的是win10操作系统,会自动建立恢复分区 导致我d盘压缩出来的空间,无法扩展到c盘上 解决方案: 下载DiskGenius 数据恢复软件,硬盘分区工具,系统备份软件 - DiskGenius官方网站 安装下面教程给C盘扩容&#…

WIN7系统怎样增加C盘空间

警告:Warning......大家这里首先暂停一下!提醒大家,使用本方法会使电脑除C盘以外的所有电脑数据丢失!请谨慎操作!使用本经验对你的电脑数据造成了损害,小编不负任何责任!如果继续,说…

win10磁盘分区合并(win10磁盘分区合并c盘时扩展卷点不开)

WIN10如何合并同一个磁盘的分区? WIN10合并同一个磁盘的分区的具体步骤如下: 1、首先我们在系统桌面,右键单击此电脑目录下的管理。 2、然后我们再管理界面点击打开磁盘管理。 3、然后进入磁盘管理界面,找到你要合并的分区。 4、右…

关于Win10扩展C盘,导致主分区丢失的记录

环境 系统:win10 专业版 引导类型:BIOSMBR 问题描述 起因是系统的固态盘100g爆了,不够用了,转而使用diskgenius合并扩展C盘为200g 合并后,开机命令行界面,无法进入系统,主分区丢失。 问题解…

计算机c盘无法扩展,win10c盘无法扩展卷怎么办

对于一台长时间使用的win10系统电脑,可能会出现c盘空间不足的情况,这时就容易导致系统运行出现卡顿,因此有用户就会通过扩展卷对c盘内存进行扩大,可是却遇到了无法扩展卷的现象,那么win10c盘无法扩展卷怎么办呢&#x…

AWS VPC(二)-----创建VPC Peering

本文任务: 实现VPC Peering。VPC Peering的作用,就是不同的VPC之间的通信,原理图如下(其中instance1和instance2是public的,它们有public ip;instance3是private的,它只有private ip&#xff0…

AWS Direct connect,VPC Peering,VPC endpoint

AWS Connection 当我们面对不同的场景时,可能需要不同的AWS Connection 方案,下面我们一一介绍这些AWS连接服务,具体包括VPN,Direct connect,VPC Peering,VPC endpoint。 VPN(Virtual Private…