语言模型 p(S) 就是语言模型，即用来计算一个句子 S 概率的模型。 那么，如何计算呢？最简单、直接的方法是计数后做除法，即最大似然估计（Maximum Likelihood Estimate，MLE），如下： 其中，count(w1,w2,…,wi?1,wi) 表示词序列(w1,w2,…,wi? ...
分类：
编程语言 时间：
2017-12-25 15:05:33
阅读次数：
207
概念 统计语言模型：是描述自然语言内在的规律的数学模型。广泛应用于各种自然语言处理问题，如语音识别、机器翻译、分词、词性标注，等等。简单地说，语言模型就是 用来计算一个句子的概率的模型 即P(W1,W2,W3....WK)。利用语言模型，可以确定哪个词序列的可能性更大，或者给定若干个词，可以预测下一 ...
分类：
编程语言 时间：
2017-12-22 00:42:19
阅读次数：
245
转：http://blog.csdn.net/lanxu_yy/article/details/29918015 为什么需要语言模型？ 想象“语音识别”这样的场景，机器通过一定的算法将语音转换为文字，显然这个过程是及其容易出错的。例如，用户发音“Recognize Speech”，机器可能会正确地识 ...
分类：
编程语言 时间：
2017-12-16 15:55:17
阅读次数：
186
引言 在机器学习领域，语言识别和图像识别都比较容易做到。语音识别的输入数据可以是音频频谱序列向量所构成的matrix，图像识别的输入数据是像素点向量构成的矩阵。但是文本是一种抽象的东西，显然不能直接把文本数据喂给机器当做输入，因此这里就需要对文本数据进行处理。 现在，有这么一个有趣的例子，我接下来要 ...
分类：
编程语言 时间：
2017-11-28 01:38:42
阅读次数：
235
为了更好的促进自然语言处理的发展：包括分词、文本分类、命名实体识别、句法分析、信息抽取、知识库构建、主题词识别、自动摘要、智能问答、语义理解、对话生成、话题推荐、语言模型、机器翻译、语义表示等方面在中文中的快速发展和广泛使用，必须很好的掌握汉语语法知识以及汉语词义网络的构建。本篇主要介绍汉语语法，汉 ...
分类：
其他好文 时间：
2017-11-04 21:40:54
阅读次数：
572
原文：https://zybuluo.com/hanbingtao/note/541458 循环神经网络也可以画成下面这个样子： 双向循环神经网络 对于语言模型来说，很多时候光看前面的词是不够的，比如下面这句话： 我的手机坏了，我打算____一部新手机。 可以想象，如果我们只看横线前面的词，手机坏了 ...
分类：
其他好文 时间：
2017-10-23 18:30:10
阅读次数：
192
本文转自:http://www.hankcs.com/nlp/cs224n-rnn-and-language-models.html 实现这个任务的朴素网络结构就是一个裸的RNN： 但是这个网络无法利用当前词语的下文辅助分类决策，解决方法是使用一些更复杂的RNN变种。 Bidirectional R ...
分类：
编程语言 时间：
2017-10-20 21:33:33
阅读次数：
172
转自：http://blog.csdn.net/inger_h/article/details/52789339 在已经训练好模型的情况下，需要针对一个新任务做在线识别应该怎么做呢？ 一种情况是，用已有的声学模型和新训练的语言模型。 语言模型可以同srilm等工具训练，但是怎样将语言模型与DNN声学 ...
分类：
其他好文 时间：
2017-09-21 13:22:59
阅读次数：
666
我理解的逻辑是智慧生物对抗生活中不确定性的一种语言工具，但奇妙的是这个工具却可以脱离实际的万物而抽象地存有。 我们生活于其间的宇宙为什么如此这般存有，不是它的子民能轻易估量的，有人说是“我们在观看上帝下棋”。我们的生活中很多事情原本是不确定、不明晰的，而理解了棋规，就能把很多事情确定下来。我们这些子 ...
分类：
编程语言 时间：
2017-09-11 21:11:43
阅读次数：
129
http://www.cnblogs.com/chaosimple/p/3376438.html N-Gram模型时大词汇连续语音识别中常用的一种语言模型，对中文而言，我们称之为汉语语言模型（CLM, Chinese Language Model）。汉语语言模型利用上下文中相邻词间的搭配信息，在需要 ...
分类：
其他好文 时间：
2017-09-08 12:02:30
阅读次数：
280
