ML-最大似然估计 MAP-最大后验估计 贝叶斯估计 三者的关系及区别 一。机器学习 核心思想是从past experience中学习出规则，从而对新的事物进行预测。对于监督学习来说，有用的样本数目越多，训练越准确。 用下图来表示机器学习的过程及包含的知识： 简单来说就是： 二。ML vs MAP ...
分类：
其他好文 时间：
2016-04-16 23:15:50
阅读次数：
774
概率密度函数估计是贝叶斯决策的基础，有两大类方法：参数法和非参数法。所谓的参数法是指已知参数形式，但不知道参数，我们要对参数进行估计的过程。这里主要介绍点估计的两种方法：一种是最大似然估计，一种是贝叶斯估计。 最大似然估计 假设： 我们要估计的参数 是确定但未知的； 样本之间是独立同分布的（或者是条...
分类：
其他好文 时间：
2016-03-10 23:46:47
阅读次数：
466
1、结论 测量误差（测量）服从高斯分布的情况下， 最小二乘法等价于极大似然估计。 2、最大似然估计 最大似然估计就是通过求解最大的（1）式得到参数，其中 L 函数称为参数的似然函数，是一个概率分布函数。 ...
分类：
其他好文 时间：
2016-03-09 12:44:28
阅读次数：
136
MLE: maximum likelihood estimate 最大似然估计 OLS: Ordinary Least Squares 普通最小二乘法 LSE: Least Squares Estimate 最小二乘估计 IRLS: Iteratively Reweighted Least Squa
分类：
其他好文 时间：
2016-03-04 13:13:34
阅读次数：
137
在统计计算中，最大期望（EM）算法是在概率（probabilistic）模型中寻找参数最大似然估计的算法，其中概率模型依赖于无法观测的隐藏变量（Latent Variable）。最大期望经常用在机器学习和计算机视觉的数据聚类（Data Clustering） 领域。最大期望算法经过两个步骤交替进行计
分类：
编程语言 时间：
2016-03-01 20:48:49
阅读次数：
676
原文链接：http://blog.sina.com.cn/s/blog_78fd98af0100xk7k.html通俗的说说最大似然估计吧，文绉绉的概念和严谨的公式推导总是记不住，又让人昏昏欲睡....1.什么是最大似然估计如果我们知道样本（数据）所服从的概率分布的模型，而不知道该模型中的参数，例如...
分类：
其他好文 时间：
2016-01-13 19:17:50
阅读次数：
150
在统计计算中，最大期望（EM，Expectation–Maximization）算法是在概率（probabilistic）模型中寻找参数最大似然估计的算法，其中概率模型依赖于无法观测的隐藏变量（Latent Variabl）。最大期望经常用在机器学习和计算机视觉的数据集聚（Data Clusteri...
分类：
编程语言 时间：
2015-12-27 20:28:36
阅读次数：
225
本文回顾最大似然估计，最大后验概率的知识。这是两个概率统计数据挖掘中非常常见的知识点，属于比较容易学的。
分类：
其他好文 时间：
2015-12-18 20:31:52
阅读次数：
204
不同于其它的机器学习模型，EM算法是一种非监督的学习算法，它的输入数据事先不需要进行标注。相反，该算法从给定的样本集中，能计算出高斯混和参数的最大似然估计。也能得到每个样本对应的标注值，类似于kmeans聚类（输入样本数据，输出样本数据的标注）。实际上，高斯混和模型GMM和kmeans都是EM算法的...
分类：
编程语言 时间：
2015-12-10 16:37:06
阅读次数：
355
本文转自http://blog.csdn.net/sunmenggmail/article/details/130046751. 最大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。简单而言，假设我们要统计全国人口的身高，首先假设这个身高服从服从正态分布，但是该分布的...
分类：
其他好文 时间：
2015-12-05 15:43:51
阅读次数：
179
