先列明材料：高斯混合模型的推导计算（英文版）：http://www.seanborman.com/publications/EM_algorithm.pdf这位翻译写成中文版：http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006936.ht...
分类：
编程语言 时间：
2014-11-29 20:14:51
阅读次数：
182
EM是我一直想深入学习的算法之一，第一次听说是在NLP课中的HMM那一节，为了解决HMM的参数估计问题，使用了EM算法。在之后的MT中的词对齐中也用到了。在Mitchell的书中也提到EM可以用于贝叶斯网络中。下面主要介绍EM的整个推导过程。1. Jensen不等式 回顾优化理论中的一些概念。设f是...
分类：
编程语言 时间：
2014-11-27 12:01:04
阅读次数：
259
从最大似然到EM算法浅解zouxy09@qq.comhttp://blog.csdn.net/zouxy09 机器学习十大算法之一：EM算法。能评得上十大之一，让人听起来觉得挺NB的。什么是NB啊，我们一般说某个人很NB，是因为他能解决一些别人解决不了的问题。神为什么是神，因为神能做很多人做不了的事...
分类：
编程语言 时间：
2014-11-23 15:52:09
阅读次数：
311
本文对于高斯混合模型(GMM)进行了简要的讨论。对于单高斯模型，高斯混合模型以及K-means等都进行了简要的介绍以及其关系的梳理，着重介绍了高斯混合模型的参数估计问题，这包括在样本分类已知情况下的MLE算法估计，以及在样本分类未知情况下的EM算法估计。...
分类：
其他好文 时间：
2014-11-22 16:07:13
阅读次数：
339
在因子分析(Factor analysis)中，介绍了一种降维概率模型，用EM算法（EM算法原理详解）估计参数。在这里讨论另外一种降维方法：主元分析法(PCA)，这种算法更加直接，只需要进行特征向量的计算，不需要用到EM算法。 假设数据集表示 m 个不同类型汽车的属性，比如最大速度，转弯半径等...
分类：
其他好文 时间：
2014-11-22 16:03:37
阅读次数：
249
1.引言在高斯混合和EM算法中，我们运用EM算法拟合混合模型，但是我们得考虑得需要多少的样本数据才能准确识别出数据中的多个高斯模型！看下面两种情况的分析：第一种情况假如有 m 个样本，每个样本的维度是 n, 如果 n»m, 这时哪怕拟合出一个高斯模型都很困难，更不用说高斯混合, 为什么呢? 这和解....
分类：
其他好文 时间：
2014-11-21 23:02:40
阅读次数：
316
1.引言以前我们讨论的概率模型都是只含观测变量(observable variable), 即这些变量都是可以观测出来的，那么给定数据，可以直接使用极大似然估计的方法或者贝叶斯估计的方法；但是当模型含有隐变量(latent variable)的时候, 就不能简单地使用这些估计方法。如在高斯混合和EM...
分类：
编程语言 时间：
2014-11-20 15:15:09
阅读次数：
512
EM算法，这是cv界比较有名的一种算法了，虽然很早就听说过，但真正深究还是最近几天看斯坦福公开课笔记的时候。之所以EM和MoG放在一起，是因为我们在求解MoG模型的时候需要用到EM算法，所以这里我们先来介绍下EM算法。 在介绍EM算法的之前，我们先来普及下Jensen不等式的知识。首先我们来给出.....
分类：
编程语言 时间：
2014-11-14 17:36:59
阅读次数：
532
大数据经典算法EM算法 讲解（EM算法）The EM Algorithm混合高斯模型（Mixtures of Gaussians）和EM算法
分类：
编程语言 时间：
2014-11-13 01:48:58
阅读次数：
162
在 聚类算法K-Means, K-Medoids, GMM, Spectral clustering，Ncut一文中我们给出了GMM算法的基本模型与似然函数，在EM算法原理中对EM算法的实现与收敛性证明进行了具体说明。本文主要针对怎样用EM算法在混合高斯模型下进行聚类进行代码上的分析说明。1. GM...
分类：
编程语言 时间：
2014-11-09 15:08:43
阅读次数：
348
