本文介绍三个经典统计语言模型， HAL，LSA, 与COALS....
分类：
编程语言 时间：
2015-06-02 00:30:48
阅读次数：
288
统计语言模型（Statistical Language Model）是一个数学模型，它是所有自然语言处理的基础，广泛应用于机器翻译、语音识别等领域，它产生的初衷是为了解决语言识别问题。 ? ? 自然语言处理中，对于如何判...
分类：
编程语言 时间：
2015-05-29 16:05:07
阅读次数：
189
第一章通信的原理和信息传播的模型 模型：信源-信道-接收者原理：编码和解码聚类：概念的归类。第二章 没啥可说的，跳过第三章 马尔科夫假设：每当一种情况发生的时候，就假设任意一个词出现的概率之和它前面的词有关。 高阶语言模型 马尔科夫模型之中，假设任意一个词出现的概率之和它前面的N-1个词有关。实际应...
分类：
其他好文 时间：
2015-05-16 11:49:31
阅读次数：
114
转载：http://licstar.net/archives/328这篇博客是我看了半年的论文后，自己对 Deep Learning 在 NLP 领域中应用的理解和总结，在此分享。其中必然有局限性，欢迎各种交流，随便拍。 Deep Learning 算法已经在图像和音频领域取得了惊人的成果，但是在....
分类：
编程语言 时间：
2015-04-11 16:14:28
阅读次数：
255
在谈N-Gram模型之前，我们先来看一下Mrkove假设： 1.一个词的出现仅仅依赖于它前面出现的有限的一个或者几个词； 2.一个词出现的概率条件地依赖于前N-1个词的词类。定义 N-Gram是大词汇连续语音识别中常用的一种语言模型，对中文而言，我们称之为汉语语言模型（CLM，ChineseL...
分类：
其他好文 时间：
2015-04-06 21:42:19
阅读次数：
133
预备知识
语言模型
[摘自 维基百科]
统计式的语言模型是借由一个概率分布，而指派概率给字词所组成的字串：
语言模型经常使用在许多自然语言处理方面的应用，如语音识别，机器翻译，词性标注，句法分析和资讯检索。由于字词与句子都是任意组合的长度，因此在训练过的语言模型中会出现未曾出现的字串(资料稀疏的问题)，也使得在语料库中估算字串的概率变得很困难，这也是要使用近似的平滑n元语法...
分类：
编程语言 时间：
2015-04-06 15:45:25
阅读次数：
226
斯坦福大学自然语言处理第四课“语言模型（Language Modeling）”一、课程介绍斯坦福大学于2012年3月在Coursera启动了在线自然语言处理课程，由NLP领域大牛Dan Jurafsky 和 Chirs Manning教授授课：https://class.coursera.org/n...
分类：
编程语言 时间：
2015-03-31 10:38:50
阅读次数：
198
参考文献：RNNLM - Recurrent Neural Network Language Modeling Toolkit（点此打开）
参考文献：STATISTICAL LANGUAGE MODELS BASED ON NEURAL NETWORKS（点此打开）
由Mikolov用rnn对语言进行建模所获得的效果已经超过传统的N-GRAM了，具体的实验结...
分类：
其他好文 时间：
2015-03-30 13:26:32
阅读次数：
252
本文来自CSDN博客，转载请注明出处：http://blog.csdn.net/a635661820/article/details/44730507
参考文献: A Neural Probabilistic Language Model
参照我另一篇NNLM学习介绍的博客, 这一篇是对NNLM的简要实现, 自己简化了一些，输入层到输出层没有连接(加上直连边的真在...
分类：
编程语言 时间：
2015-03-30 09:31:10
阅读次数：
450
