在讨论最大似然估计之前,我们先来解决这样一个问题:有一枚不规则的硬币,要计算出它正面朝上的概率。为此,我们做了 10 次实验,得到这样的结果:[1, 0, 1, 0, 0, 0, 0, 0, 0, 1](1 代表正面朝上,0 代表反面朝上)。现在,要根据实验得到的结果来估计正面朝上的概率,即模型的参 ...
分类:
其他好文 时间:
2018-01-09 14:42:06
阅读次数:
163
语言模型 p(S) 就是语言模型,即用来计算一个句子 S 概率的模型。 那么,如何计算呢?最简单、直接的方法是计数后做除法,即最大似然估计(Maximum Likelihood Estimate,MLE),如下: 其中,count(w1,w2,…,wi?1,wi) 表示词序列(w1,w2,…,wi? ...
分类:
编程语言 时间:
2017-12-25 15:05:33
阅读次数:
207
理解略肤浅,所以该博文更适合像我一样的初学者,所以大牛勿喷!当然哪里有不合适的地方,欢迎指正,万分感谢!! 1、什么是估计 通过样本去估计总体 2、参数估计 。。。我理解就是估计参数,可以是总体期望,也可以是总体方差。根据对象是一个值,还是一个区间,可分为点估计和区间估计 3、矩估计 首先我们应该了 ...
分类:
其他好文 时间:
2017-12-02 16:17:09
阅读次数:
131
最近在看深度学习的"花书" (也就是Ian Goodfellow那本了),第五章机器学习基础部分的解释很精华,对比PRML少了很多复杂的推理,比较适合闲暇的时候翻开看看。今天准备写一写很多童鞋们w未必完全理解的最大似然估计的部分。 单纯从原理上来说,最大似然估计并不是一个非常难以理解的东西。最大似然 ...
分类:
其他好文 时间:
2017-11-27 14:17:27
阅读次数:
243
原文地址:http://blog.csdn.net/sunlylorn/article/details/19610589 在数理统计学中,似然函数是一种关于统计模型中的参数的函数,表示模型参数中的似然性。似然函数在统计推断中有重大作用,如在最大似然估计和费雪信息之中的应用等等。“似然性”与“或然性” ...
分类:
其他好文 时间:
2017-11-07 22:18:42
阅读次数:
187
最大似然估计法的基本思想 最大似然估计法的思想很简单:在已经得到试验结果的情况下,我们应该寻找使这个结果出现的可能性最大的那个 作为真 的估计。 我们分两种情进行分析: 1.离散型总体 设 为离散型随机变量,其概率分布的形式为 ,则样本 的概率分布为 ,在 固定时,上式表示 取值 的概率;当 固定时 ...
分类:
其他好文 时间:
2017-11-05 15:08:36
阅读次数:
174
参考: 最大似然估计,就是利用已知的样本结果,反推最有可能(最大概率)导致这样结果的参数值。例如:一个麻袋里有白球与黑球,但是我不知道它们之间的比例,那我就有放回的抽取10次,结果我发现我抽到了8次黑球2次白球,我要求最有可能的黑白球之间的比例时,就采取最大似然估计法。 MLE可以看作一种特殊情况下 ...
分类:
其他好文 时间:
2017-10-30 14:25:30
阅读次数:
142
http://blog.csdn.net/baimafujinji/article/details/51374202 贝叶斯定理:一个例子 其实我们在之前介绍朴素贝叶斯分类器时就介绍过它,如果你有点忘了,这里就通过一个例子来帮你回忆一下。 假设有一所学校,学生中60%是男生和40%是女生。女生穿裤子 ...
分类:
其他好文 时间:
2017-10-08 13:37:41
阅读次数:
214
转自:http://blog.csdn.net/yanqingan/article/details/6125812 最大似然估计学习总结 MadTurtle 1. 作用 在已知试验结果(即是样本)的情况下,用来估计满足这些样本分布的参数,把可能性最大的那个参数作为真实的参数估计。 2. 离散型 设为 ...
分类:
其他好文 时间:
2017-09-06 00:39:59
阅读次数:
162
1、最大似然 多数情况下我们是根据已知条件来推算结果,而最大似然估计是已经知道了结果,然后寻求使该结果出现的可能性最大的条件,以此作为估计值 求最大似然函数估计值的步骤: 2、机器学习算法的学习过程 这个优化函数存在解析解。例如我们求最值一般是对代价函数求导,导数为0的点一般就是最值,如果代价函数能 ...
分类:
其他好文 时间:
2017-08-23 20:44:28
阅读次数:
138