华电北风吹
日期:2016-05-07高斯混合模型是一个无监督学习算法,主要用思路是利用EM算法对混合高斯分布进行极大似然估计。一、高斯混合分布
对于有kk个高斯分布混合而成的混合高斯分布的概率密度函数有
p(x)=∑zp(x|z)p(z)(1)p(x)=\sum_z p(x|z)p(z) \tag{1}
对于随机变量zz有zz~Multinomial(?)Multinomial(\phi)...
分类:
其他好文 时间:
2016-05-13 03:40:48
阅读次数:
261
聚类是机器学习中的无监督学习方法的重要一种,近来看了周志华老师的机器学习,专门研究了有关于聚类的一章,收获很多,对于其中的算法也动手实现了一下。主要实现的包括比较常见的k均值聚类、密度聚类和层次聚类,这三种聚类方法上原理都不难,算法过程也很清晰明白。有关于原理可以参阅周志华老师的机器学习第九章,这里只做一下代码的实现。
运行环境是Python2.7+numpy,说实话,numpy坑还是挺多的,其...
分类:
其他好文 时间:
2016-04-29 18:44:40
阅读次数:
239
k-means是一种无监督学习算法,用于聚类。 下图(来自http://www.cnblogs.com/jerrylead/archive/2011/04/06/2006910.html)展示了k-means算法k=2时的聚类过程。 第一步:给定k个中心点,然后依次遍历所有数据点,计算每个数据点到k ...
分类:
编程语言 时间:
2016-04-27 18:36:09
阅读次数:
180
聚类是机器学习中的无监督学习方法的重要一种,近来看了周志华老师的机器学习,专门研究了有关于聚类的一章,收获很多,对于其中的算法也动手实现了一下。主要实现的包括比较常见的k均值聚类、密度聚类和层次聚类,这三种聚类方法上原理都不难,算法过程也很清晰明白。有关于原理可以参阅周志华老师的机器学习第九章,这里只做一下代码的实现。
运行环境是Python2.7+numpy,说实话,numpy坑还是挺多的,其...
分类:
其他好文 时间:
2016-04-26 20:56:56
阅读次数:
128
深度学习是机器学习研究中的一个新的领域,其动机在于建立、模拟人脑进行分析学习的神经网络,它模仿人脑的机制来解释数据,例如图像,声音和文本。深度学习是无监督学习的一种。 深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类 ...
分类:
Web程序 时间:
2016-04-23 23:09:15
阅读次数:
451
参考书 深度学习 深度学习是机器学习研究中的一个新的领域,其动机在亍建立、模拟人脑迚行分析学习的神经网络,它模仿人脑的机制来解释数据, 例如图像,声音和文本。深度学习是无监督学习的一种。深度学习的概念源亍人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。 深度学习通过组合低层特征形成更加 ...
分类:
其他好文 时间:
2016-04-23 21:20:41
阅读次数:
211
分类:分类的意义 传统意义下的分类:生物物种预测:天气预报决策:yes or no分类的传统模型分类(判别分析)与聚类有什么差别?有监督学习,无监督学习,半监督学习 常见分类模型与算法 线性判别法距离判别法贝叶斯分类器决策树支持向量机(SVM)神经网络 文本挖掘典型场景 网页自动分类垃圾邮件判断评论 ...
分类:
编程语言 时间:
2016-04-23 18:12:03
阅读次数:
221
1.RBM简介 受限玻尔兹曼机(Restricted Boltzmann Machines,RBM)最早由hinton提出,是一种无监督学习方法,即对于给定数据,找到最大程度拟合这组数据的参数,其网络结构如下: 以上的RBM的贝叶斯网络图,该网络可网络结构有 n个可视节点和m个隐藏节点 ,其中每个可 ...
分类:
Web程序 时间:
2016-04-14 19:23:01
阅读次数:
302
感谢博临天下,笔记太好,我就直接搬过来再添加了。http://www.cnblogs.com/fanyabo/p/4060498.html 一、引言 本材料参考Andrew Ng大神的机器学习课程 http://cs229.stanford.edu,以及斯坦福无监督学习UFLDL tutorial ...
分类:
编程语言 时间:
2016-04-10 21:24:23
阅读次数:
499
机器学习可分为监督学习和无监督学习。有监督学习就是有具体的分类信息,比如用来判定输入的是输入[a,b,c]中的一类;无监督学习就是不清楚最后的分类情况,也不会给目标值。 K-近邻算法属于一种监督学习分类算法,该方法的思路是:如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属 ...
分类:
编程语言 时间:
2016-04-05 00:30:06
阅读次数:
284