贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类，而朴素贝叶斯分类可谓是里面最简单、入门的一种。首先关于贝叶斯定理，感觉简单而伟大，前些天一直在看吴军的数学之美（没看过的极力推荐）系列文章，看到自然语言处理从规则模型到统计模型转变的时候，语言的识别准确率上升好几个等级，以至于今天的语言识别到达很强大的地步，同时对于搜索引擎，网页搜索的准确率，也上升好多。这其中的最最重...
分类：
编程语言 时间：
2015-08-05 12:51:53
阅读次数：
250
假设现在要构建一个网络图书馆，我们可以给新进来的书贴上若干个标签，没有机器学习算法的情况下，我们需要给这些书手动分类，是计算机类的呀，还是非计算机类的呀，是小说类的呀，还是非小说类的云云。
那么，我们可以通过让程序自己学习如何通过一本书上的若干标签来进行图书类别的区分，这样就可以节省很多人力，这也是机器学习的魅力体现。
机器学习的基本原理是通过开发者给出这个程序一个学习集进行学习，再通过用户给的...
分类：
其他好文 时间：
2015-08-02 20:10:29
阅读次数：
170
该节主要是把《机器学习实战》书上第三章关于决策树的相关代码照样子实现了一遍。对其中一些内容作了些补充，对比ID3与C45区别，同时下载了一个大样本集实验决策树的准确率。首先，对于决策树的原理，很多很好的博客值得一看：从决策树学习谈到贝叶斯分类算法、EM、HMM决策树算法总结这两个已经详解了关于决策树的所有，慢慢品读吧。下面是书上外加添加的部分程序，首先是tree.py里面的程序：import ope...
分类：
编程语言 时间：
2015-07-31 22:01:49
阅读次数：
282
一、简答题（本题共30分）1、如何理解继承、多态、组合，请举例说明它们的应用。（10分）2、请列举出进程间通信的几种方式（至少列举出三种）。（10分）3、请写出贝叶斯公式，请描述朴素贝叶斯分类方法的原理和步骤。（10分）二、算法与程序设计（本题共40分）1、两个长度为100的随机向量X和Y，X=（x...
分类：
其他好文 时间：
2015-07-31 01:01:05
阅读次数：
231
朴素贝叶斯算法与上篇中写到到生成学习算法的思想是一致的。它不需要像线性回归等算法一样去拟合各种假设的可能，只需要计算各种假设的概率，然后选择概率最高的那种假设分类类别。其中还添入了一个贝叶斯假定：在给定目标值y时属性值x之间相互独立。这样的分类算法被称为朴素贝叶斯分类器（Naive Bayes classifier） 。
1、朴素贝叶斯算法
在朴素贝叶斯算法的模型里，给定的训练集为,...
分类：
编程语言 时间：
2015-07-24 13:04:49
阅读次数：
215
1.贝叶斯分类的基础——贝叶斯定理
已知某条件概率，如何得到两个事件交换后的概率，也就是在已知P(A|B)的情况下如何求得P(B|A)。这里先解释什么是条件概率：
表示事件B已经发生的前提下，事件A发生的概率，叫做事件B发生下事件A的条件概率。其基本求解公式为：
。
贝叶斯定理...
分类：
编程语言 时间：
2015-07-21 14:46:43
阅读次数：
121
朴素贝叶斯算法（Naive Bayes）阅读目录一、病人分类的例子二、朴素贝叶斯分类器的公式三、账号分类的例子四、性别分类的例子 生活中很多场合需要用到分类，比如新闻分类、病人分类等等。 本文介绍朴素贝叶斯分类器（Naive Bayes classifier），它是一种简单有效的常用分类算法。回.....
分类：
编程语言 时间：
2015-07-21 07:52:40
阅读次数：
137
生活中很多场合需要用到分类，比如新闻分类、病人分类等等。 本文介绍朴素贝叶斯分类器（Naive Bayes classifier），它是一种简单有效的常用分类算法。一、病人分类的例子 让我从一个例子开始讲起，你会看到贝叶斯分类器很好懂，一点都不难。 某个医院早上收了六个门诊病人，如下表。 ...
分类：
编程语言 时间：
2015-07-20 09:15:02
阅读次数：
147
朴素贝叶斯分类 朴素贝叶斯分类是一种十分简单的分类算法，叫它朴素贝叶斯分类是因为这种方法的思想真的很朴素，朴素贝叶斯的思想基础是这样 的：对于给出的待分类项，求解在此项出现的条件下各个类别出现的概率，哪个最大，就认为此待分类项属于哪个类别。通俗来说，就好比这么个道理，你在街上看 到一个黑人，我问你你...
分类：
其他好文 时间：
2015-07-19 00:08:53
阅读次数：
118
