一、什么是语言模型 假设，对于一个观测值：“yuyanmoxing”，可能是由“语言模型”、“寓言模型”、“语言魔性” ... 等得到的，但是要想得到究竟是哪一个，通常需要计算它们的概率，譬如：P("语言模型"|"yuyanmoxing") > P("寓言模型"|"yuyanmoxing") > . ...
分类：
编程语言 时间：
2018-08-12 17:20:43
阅读次数：
306
一、语言模型 旨在：给一个句子或一组词计算一个联合概率 作用： 机器翻译：用以区分翻译结果的好坏 拼写校正：某一个拼错的单词是这个单词的概率更大，所以校正 语音识别：语音识别出来是这个句子的概率更大 总结或问答系统 相关任务：在原句子的基础上，计算一个新词的条件概率，该概率与P(w1w2w3w4w5 ...
分类：
编程语言 时间：
2018-08-05 13:03:15
阅读次数：
182
主要参考： word2vec 中的数学原理详解 自己动手写 word2vec ...
分类：
编程语言 时间：
2018-07-18 01:12:29
阅读次数：
187
1. 将word映射到一个新的空间中，并以多维的连续实数空间向量进行表示，叫做 ，或者 . 2. n gram: n gram是一种统计语言模型。根据前n 1个item预测第n个item，这些item可以是音素（语言识别应用），字符（输入法应用），词（分词应用）或碱基对。一般可以从大规模文本或者语料 ...
分类：
其他好文 时间：
2018-07-13 23:45:21
阅读次数：
292
自然语言处理与深度学习： 语言模型： N-gram模型： ...
分类：
编程语言 时间：
2018-07-07 23:56:35
阅读次数：
229
参考：https://blog.csdn.net/zjf280441589/article/details/52716720 从 2.6版本 起, Redis 开始支持 Lua 脚本 让开发者自己扩展 Redis. 本篇博客主要介绍了 Lua 语言不一样的设计模型(相比于Java/C/C++、JS、 ...
分类：
编程语言 时间：
2018-07-06 22:28:20
阅读次数：
209
一、什么是N-Gram N-Gram是一种统计语言模型，用来根据前(n-1)个item来预测第n个item。在应用层面，这些item字符（输入法应用）等。一般来讲，可以从大规模文本或音频语料库生成N-Gram模型。 习惯上，1-gram叫unigram，2-gram称为bigram，3-gram是t ...
分类：
其他好文 时间：
2018-07-05 14:47:19
阅读次数：
375
图书 深度学习，Yoshua Bengio，Ian Goodfellow，Aaron Courville，MIT Press，准备中。 评论文章 代表性学习：评论与新视角，Yoshua Bengio，Aaron Courville，Pascal Vincent，Arxiv，2012。 专题或评论文章 ...
分类：
其他好文 时间：
2018-06-29 14:12:27
阅读次数：
305
语言模型： I. 基本思想 区别于其他大多数检索模型从查询到文档（即给定用户查询，如何找出相关的文档）， 语言模型由文档到查询，即为每个文档建立不同的语言模型，判断由文档生成用户查 询的可能性有多大，然后按照这种生成概率由高到低排序，作为搜索结果。 II. 生成查询概率 为每个文档建立一个语言模型， ...
分类：
编程语言 时间：
2018-06-14 18:12:31
阅读次数：
164
目录： 前言： N-gram是机器学习中NLP处理中的一个较为重要的语言模型，常用来做句子相似度比较，模糊查询，以及句子合理性，句子矫正等. 再系统的介绍N-gram前，我们先了解一下这几种概率. 正文： 1、联合概率介绍： 形如：p(W1,....,Wn); 表示的意思是： w1,...Wn同时发 ...
分类：
其他好文 时间：
2018-06-13 18:05:41
阅读次数：
197
