本章的假设前提是不同类之间存在相关性。连续的特征向量不是孤立的。
1，贝叶斯分类器
2，马尔科夫链模型
3，the viterbi algorithm
4, 信道均衡（channel equalization）:任务是回复被传输通道或者噪音破坏的信息序列。
5，隐式马尔科夫模型
6，带状态持续模型（state duration model）的HMM
...
分类：
其他好文 时间：
2014-07-25 11:05:21
阅读次数：
296
上一篇讨论了HMM的基本概念和一些性质，HMM在现实中还是比较常见的，因此也带来一了一系列的HMM应用问题。HMM应用主要面向三个方面：预测、解码和学习。这篇主要讨论预测。简单来说，预测就是给定HMM，和一个观察得到的可观察状态序列，求出通过HMM得到这个序列的概率是多少，这也是一般机器学习等领域中...
分类：
其他好文 时间：
2014-07-16 21:43:46
阅读次数：
218
一直想写点关于数学方面的blog，这对于数据挖掘分析，NLP处理等都有着比较重要的作用，之前在CSDN上想写点HMM方面的文章，一直没写成，最近几天终于抽点时间完成了HMM的文章，加以整理，遂有这个系列文章 首先是对HMM模型的介绍。 传统的马尔可夫模型（Markov Model）主要描述了...
分类：
其他好文 时间：
2014-07-16 21:43:13
阅读次数：
230
代码下载：基于隐马尔可夫模型的有监督词性标注
词性标注（Part-of-Speech tagging 或 POS tagging)是指对于句子中的每个词都指派一个合适的词性，也就是要确定每个词是名词、动词、形容词或其他词性的过程，又称词类标注或者简称标注。词性标注是自然语言处理中的一项基础任务，在语音识别、信息检索及自然语言处理的许多领域都发挥着重要的作用。
词性标注本质上是...
分类：
其他好文 时间：
2014-06-24 20:05:51
阅读次数：
233
一、隐马尔科夫HMM假设：
有且只有3种天气：0晴天，1阴天，2雨天
各种天气间的隔天转化概率mp：
mp[3][3]
晴天
阴天
雨天
晴天
0.33333
0.33333
0.33333
阴天
0.33333
0.33333
0.33333
雨天
0.3333...
分类：
其他好文 时间：
2014-06-21 18:29:43
阅读次数：
291
通过前几时断续的学习，发现自己对HMM模型的了解还只停留在皮毛，导致在学习CRF模型并将其与最大熵模型、HMM、MEMM做比较时感觉很吃力，所以又花了两天时间使劲看了遍HMM，发现了解得确实深刻了很多，现小结一下，争取把看过的知识变成自己的，特别感谢52nlp网站http://www.52nlp.c...
分类：
其他好文 时间：
2014-06-19 06:44:30
阅读次数：
387
What’s Your Next Move: User Activity Prediction inLocation-based Social Networks
这篇文章来自于SDM’13年（SIAM InternationalConference on Data Mining 2013）的录用论文集，是关于在基于位置社交网络里面（LBSN）进行用户签到预测的。本文解决问题的角度很创新...
1.1 论文总结
为了预测用户的下一个签到活动类型，作者利用隐含马尔可夫模型（HMM）对用户的活动转移进行建模......
分类：
其他好文 时间：
2014-06-18 07:27:44
阅读次数：
222
输入法，尤其是拼音输入法，解决的就是一些序列标注的问题，针对给定的状态(拼音)，获取其概率最高的隐状态(中文)。
这个是一个标准的HMM，针对HMM的解码过程，是一个很成熟也很完备的东西。
local的计算和存储能力都有限，我们选择一般是二阶马尔科夫，也就是所谓的bigram model。 高阶对质量会有帮助，但是涉及到存储和计算，工程上不可行。
同理，利用ME 以及CRFmodel...
分类：
其他好文 时间：
2014-06-10 18:18:23
阅读次数：
208
作为 inference 部分的小结，我们这里对 machine learning 里面常见的三个
model 的 inference 问题进行整理，当然很幸运的是他们都存在 tractable 的算法是的我们避免了烦人的 approximate
inference。HMM常意所说的 HMM 是对离...
分类：
其他好文 时间：
2014-06-08 23:26:19
阅读次数：
386
本文简明讲述GMM-HMM在语音识别上的原理，建模和测试过程。这篇blog只回答三个问题：
1. 什么是Hidden Markov Model？
2. GMM是神马？怎样用GMM求某一音素（phoneme）的概率？
3. 用GMM+HMM大法解决语音识别...
分类：
其他好文 时间：
2014-06-05 12:27:52
阅读次数：
369
