http://www.ruanyifeng.com/blog/algorithm/ 2015年 理解矩阵乘法（43@2015.09.01） 蒙特卡罗方法入门（28@2015.07.27） 泊松分布和指数分布：10分钟教程（41@2015.06.10） 2013年 朴素贝叶斯分类器的应用（43@201 ...
分类：
编程语言 时间：
2016-04-20 00:10:03
阅读次数：
239
1、概率模型
机器学习中的很多模型可以根据概率分布形式分为生成模型和判别模型，其中生成模型以输入输出的联合分布P(X,Y)为基础建模，如朴素贝叶斯、隐马尔可夫模型；判别模型以条件概率分布P(Y|X)为基础建模，如最大熵模型、条件随机场等。这几个模型之间有一定的关系，它们的关系如下：
其中，NB表示朴素贝叶斯，ME表示最大熵，HMM表示隐马尔科夫，CRF表示条件随机场。joint联合分布，co...
分类：
其他好文 时间：
2016-04-17 23:10:02
阅读次数：
392
朴素贝叶斯 优点： 在数据较少的情况下仍然有效，可以处理多类别问题。 缺点： 对于输入数据的准备方式较为敏感。 使用数据类型： 标称型数据。 朴素贝叶斯是贝叶斯决策理论的一部分。 使用决策树方法对数据进行分类不会非常成功，二和简单的概率计算相比，kNN的计算量太大，因此一般问题使用概率比较方法。 使 ...
分类：
其他好文 时间：
2016-04-15 18:06:12
阅读次数：
277
下面信息所有是作者的个人理解，记录下来方便用简单的视角去理解复杂的问题，当中不乏胡说八道和想当然，如有与事实不符的地方，请大家多多批评指正！ 图像分类器最早诞生的应该是贝叶斯分类器： 为什么？由于贝叶斯网络实际上就是把各种可能性串联起来。全然符合人脑的推理过程， 朴素贝叶斯分类器：贝叶斯网络实际上是 ...
分类：
其他好文 时间：
2016-04-09 21:57:51
阅读次数：
142
一、分类的数学定义：
从数学角度来说，分类问题可做如下定义：
已知集合：和，确定映射规则，使得任意有且仅有一个使得成立。（不考虑模糊数学里的模糊集情况）。
其中C叫做类别集合，其中每一个元素是一个类别，而I叫做项集合，其中每一个元素是一个待分类项，f叫做分类器。分类算法的任务就是构造分类器f。
二、贝叶斯统计基础：
...
分类：
其他好文 时间：
2016-04-01 18:50:09
阅读次数：
117
1.概率生成模型首先介绍生成模型的概念，然后逐步介绍采用生成模型的步骤。1.1概念
即对每一种类别CkC_k分别建立一种模型p(Ck|x)p(C_k|x)，把待分类数据x分别带入每种模型中，计算后验概率p(Ck|x)p(C_k|x)，选择最大的后验概率对应的类别。
假设原始数据样本有K类，生成学习算法是通过对原始数据类p(x|Ck)p(x|C_k)与p(Ck)p(C_k)建立数据类模型后,采用贝...
分类：
其他好文 时间：
2016-04-01 18:32:19
阅读次数：
364
朴素贝叶斯(naive bayes)标签： Python 机器学习主要参考资料：《机器学习实战》《统计学习方法》1.朴素贝叶斯分类原理朴素贝叶斯法是基于贝叶斯定理和特征条件独立假设(称为朴素的原因)的分类方法。先看看维基百科中贝叶斯定理的描述：
贝叶斯定理（维基百科）
通常，事件A在事件B（发生）的条件下的概率，与事件B在事件A的条件下的概率是不一样的；然而，这两者是有确定的关系，贝叶斯定...
分类：
其他好文 时间：
2016-04-01 18:14:48
阅读次数：
204
朴素贝叶斯分类器的应用 作者： 阮一峰 日期： 2013年12月16日 作者： 阮一峰 日期： 2013年12月16日 生活中很多场合需要用到分类，比如新闻分类、病人分类等等。 本文介绍朴素贝叶斯分类器（Naive Bayes classifier），它是一种简单有效的常用分类算法。 一、病人分类的 ...
分类：
其他好文 时间：
2016-03-31 16:44:42
阅读次数：
150
第12章 统计学习方法总结
1 适用问题
分类问题是从实例的特征向量到类标记的预测问题；标注问题是从观测序列到标记序列(或状态序列)的预测问题。可以认为分类问题是标注问题的特殊情况。
分类问题中可能的预测结果是二类或多类；而标注问题中可能的预测结果是所有的标记序列，其数目是指数级的。
感知机、k近邻法、朴素贝叶斯法、决策树是简单的分类方法，具有模型直观、方法简单、实现容易等特...
分类：
其他好文 时间：
2016-03-30 13:14:29
阅读次数：
232
第4章 朴素贝叶斯法
朴素贝叶斯 (naive Bayes) 法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入/输出的联合概率分布；然后基于此模型，对给定的输入x，利用贝叶斯定理求出后验概率最大的输出Y。
4.1 朴素贝叶斯法的学习与分类
基本方法
朴素贝叶斯法通过训练数据集学习X和Y的联合概率分布
P(X,Y)。
...
分类：
其他好文 时间：
2016-03-30 13:13:26
阅读次数：
320
