前言 有人认为 AdaBoost 是最好的监督学习的方式。 某种程度上因为它是元算法，也就是说它会是几种分类器的组合。这就好比对于一个问题能够咨询多个 "专家" 的意见了。 组合的方式有多种，可能是不同分类算法的分类器，可能是同一算法在不同设置下的集成，还可以是数据集在不同部分分配给不同分类器...
分类：
编程语言 时间：
2015-01-02 16:01:58
阅读次数：
188
前言 支持向量机，也即SVM，号称分类算法，甚至机器学习界老大哥。其理论优美，发展相对完善，是非常受到推崇的算法。 本文将讲解的SVM基于一种最流行的实现 - 序列最小优化，也即SMO。 另外还将讲解将SVM扩展到非线性可分的数据集上的大致方法。预备术语 1. 分割超平面：就是决策边界 2...
分类：
其他好文 时间：
2014-12-31 16:11:28
阅读次数：
459
前言 本文将介绍机器学习分类算法中的Logistic回归分类算法并给出伪代码，Python代码实现。 (说明：从本文开始，将接触到最优化算法相关的学习。旨在将这些最优化的算法用于训练出一个非线性的函数，以用于分类。)算法原理 首先要提到的概念是回归。 对于回归这个概念，在以后的文章会有系...
分类：
编程语言 时间：
2014-12-30 13:29:14
阅读次数：
615
基于信息检索课程，完成实现了一个文本分类系统，现记录一下整个实现过程。
文本分类以文本数据为分类对象，本质上是机器学习方法在信息检索领域的一种应用，可以继承机器学习领域的很多概念和方法，但同时也需要结合信息检索领域的特点进行处理。主要研究的方向是：文本分词方法、文本特征提取方法、分类算法。
本人主要使用了5种常用的分类算法，分别是kNN、Rocchio、NBC、SVM和ANN，对每种算法的结果...
分类：
其他好文 时间：
2014-12-29 16:49:34
阅读次数：
185
前言 朴素贝叶斯算法最为广泛而经典的应用毫无疑问是文档分类，更具体的情形是邮件过滤系统。 本文详细地讲解一个基于朴素贝叶斯分类算法的邮件过滤系统的具体实现。 本文侧重于工程实现，至于其中很多算法的细节请参考之前的一篇文章：朴素贝叶斯分类算法原理分析与代码实现准备数据：切分文本 获取到文本文件...
分类：
编程语言 时间：
2014-12-26 18:35:50
阅读次数：
240
前言 本文介绍机器学习分类算法中的朴素贝叶斯分类算法并给出伪代码，Python代码实现。词向量 朴素贝叶斯分类算法常常用于文档的分类，而且实践证明效果是挺不错的。 在说明原理之前，先介绍一个叫词向量的概念。 --- 它一般是一个布尔类型的集合，该集合中每个元素都表示其对应的单词是否在文档中出现...
分类：
编程语言 时间：
2014-12-25 23:21:32
阅读次数：
383
从决策树学习谈到贝叶斯分类算法、EM、HMM （Machine Learning &Recommend Search交流新群：172114338）引言 近期在面试中，除了基础 & 算法 & 项目之外，经常被问到或被要求介绍和描写叙述下自己所知道的几种分类或聚类算法(当然，这全...
分类：
编程语言 时间：
2014-12-25 22:05:08
阅读次数：
372
迷宫求解----递归实现2010-01-14 14:02:28|分类：算法及分析|举报|字号订阅一、问题的分析：本问题的求解，关键是如何找到求解任意两个点间，按照以上基本思想而走出的路线。按照这个路线，我们可以通过图形函数来动态的显示迷宫的搜索过程。计算机解迷宫解通常用的是“穷举求解”方法，即从入口...
分类：
其他好文 时间：
2014-12-24 16:12:18
阅读次数：
358
前言 本文将继续讲解K-近邻算法的项目实例 - 手写识别系统。 该系统在获取用户的手写输入后，判断用户写的是什么。 为了突出核心，简化细节，本示例系统中的输入为32x32矩阵，分类结果也均为数字。但对于汉字或者别的分类情形原理都是一样的。 有了前面学习的基础，下面直接进入项目开发步骤。第一步...
分类：
编程语言 时间：
2014-12-23 17:07:18
阅读次数：
232
1：贝叶斯网络的定义和性质一个贝叶斯网络定义包括一个有向无环图（DAG）和一个条件概率表集合。DAG中每一个节点表示一个随机变量，可以是可直接观测变量或隐藏变量，而有向边表示随机变量间的条件依赖；条件概率表中的每一个元素对应DAG中唯一的节点，存储此节点对于其所有直接前驱节点的联合条件概率。 贝叶斯...
分类：
编程语言 时间：
2014-12-22 10:56:52
阅读次数：
160
