下载链接：斯坦福机器学习笔记
这一系列笔记整理于2013年11月至2014年7月。所有内容均是个人理解，做笔记的原因是为了以后回顾相应方法时能快速记起，理解错误在所难免，不合适的地方敬请指正。
笔记按照斯坦福机器学习公开课的notes整理，其中online学习部分没有整理，reinforcement learning还没接触，有时间补上。
这份笔记主要记录自己学习过程中理解上的难点，所以对于...
分类：
其他好文 时间：
2014-07-12 22:52:36
阅读次数：
401
在聚类中我们经经常使用到EM算法（i.e. Estimation - Maximization）进行參数预计, 在该算法中我们通过函数的凹/凸性，在estimation和maximization两步中迭代地进行參数预计，并保证能够算法收敛，达到局部最优解。PS：为了不在11.11这个吉祥的日子发bl...
分类：
其他好文 时间：
2014-07-02 09:56:51
阅读次数：
234
建议参考NG的手稿，不要看中文翻译的http://cs229.stanford.edu/notes/cs229-notes8.pdfhttp://cs229.stanford.edu/materials.htmlhttp://cs.stanford.edu/courses/schedules/201...
分类：
其他好文 时间：
2014-06-30 20:58:49
阅读次数：
439
算法定义 最大期望算法（Exception Maximization Algorithm，后文简称EM算法）是一种启发式的迭代算法，用于实现用样本对含有隐变量的模型的参数做极大似然估计。已知的概率模型内部存在隐含的变量，导致了不能直接用极大似然法来估计参数，EM算法就是通过迭代逼近的方式用实际的.....
分类：
其他好文 时间：
2014-06-20 17:39:58
阅读次数：
215
博客安排1.PCA原理及其应用(两篇）2.线性规划问题3.正则化方法3.拉格朗日乘法算子4.SVM5.ICA原理6.聚类分析7.EM算法8.推荐系统9.SVD10.高斯分布
分类：
其他好文 时间：
2014-06-10 15:04:35
阅读次数：
270
本文对应公开课的第13个视频，这个视频仍然和EM算法非常相关，第12个视频讲解了EM算法的基础，本视频则是在讲EM算法的应用。本视频的主要内容包括混合高斯模型（Mixture of Gaussian, MoG）的EM推导、混合贝叶斯模型（Mixture of Naive Bayes，MoNB）的EM推导、因子分析模型（Factor Analysis Model）及其EM求解。由于本章内容较多，故而分为AB两篇，本篇介绍至混合模型的问题。...
分类：
其他好文 时间：
2014-06-05 07:01:14
阅读次数：
259
转自：http://blog.csdn.net/abcjennifer/article/details/8198352在聚类算法K-Means,
K-Medoids, GMM, Spectral clustering，Ncut一文中我们给出了GMM算法的基本模型与似然函数，在EM算法原理中对EM算法...
分类：
其他好文 时间：
2014-05-19 14:15:47
阅读次数：
384
这个是在凸优化里面看的，在EM算法中看有用到，所以用latex写了篇回忆用的小短文，现在不会把latex产生的pdf怎么转变成放到这里的内容。
所以我选择直接贴图。
这个pdf可以在我的资源里找到。 http://download.csdn.net/detail/bendanban/7358053...
分类：
其他好文 时间：
2014-05-18 09:36:27
阅读次数：
206
混合高斯模型（Mixtures of Gaussians）和EM算法 主要内容： 1、
概率论预备知识 2、 单高斯模型 3、 混合高斯模型 4、 EM算法 5、 K-means聚类算法 一、概率论预备知识 1、 数学期望/均值、方差/标准差
设离散型随机变量X的分布律为 则称为X的数学期望或均值 ...
分类：
其他好文 时间：
2014-05-17 21:50:45
阅读次数：
597
