本文主要讨论了机器学习中的最大似然估计MLE,贝叶斯估计和最大后验估计MAP,以及它们的关系,是上一篇《机器学习浅析之最优解问题》的深入。
最大似然估计MLE
Frequentist Learning假定存在模型M,其中未知参数为.该参数的估计值为. 给定样本观察数据X,通过选择合适的θ值,可以使产...
分类:
其他好文 时间:
2014-11-10 13:29:51
阅读次数:
276
最大期望算法:EM算法。在统计计算中,最大期望算法(EM)是在概率模型中寻找参数最大似然估计或者最大后验估计的算法,其中概率模型依赖于无法观测的隐藏变量。最大期望算法经过两个步骤交替进行计算:第一步是计算期望(E),利用对隐藏变量的现有估计,计算其最大似然估计值;第二步是最大化(M),最大化在E步上...
分类:
编程语言 时间:
2014-10-11 16:51:56
阅读次数:
549
简介:在概率统计中有两种主要的方法:参数统计和非参数统计(或者说参数估计和非参数估计)。 其中,参数估计是概率统计的一种方法。主要在样本知道情况下,一般知道或假设样本服从某种概率分布,但不知到具体参数(或者知道具体模型,但不知道模型的参数)。
参数估计就是通过多次试验,观察其结果,利用结果推出参数的大概值。...
分类:
其他好文 时间:
2014-07-23 22:39:07
阅读次数:
894