小编都深深的震惊了，到底是谁那么好整理了那么多干货性的书籍。小编对此人表示崇高的敬意，小编不是文章的生产者，只是文章的搬运工。《Brief History of Machine Learning》介绍:这是一篇介绍机器学习历史的文章，介绍很全面，从感知机、神经网络、决策树、SVM、Adaboost到...
分类：
其他好文 时间：
2015-09-20 09:14:35
阅读次数：
372
当做重要决定时，大家可能都会吸取多个专家而不只是一个人的意见。机器学习处理问题时又何尝不是如此？这就是元算法背后的思路。元算法是对其他算法进行组合的一种方式。自举汇聚法（bootstrap aggregating），也称为bagging方法，是从原始数据集选择S次后得到S个新数据集的一种技术。新数据...
分类：
编程语言 时间：
2015-09-12 23:32:24
阅读次数：
323
1.提升方法是将弱学习算法提升为强学习算法的统计学习方法，在分类学习中，提升方法通过反复修改训练数据的权值分布，构建一系列基本分类器，并将这些基本的分类器线性组合，构成一个强分类器，代表性的提升方法是AdaBoost算法。2.AdaBoost算法的特点是通过迭代每次学习一个基本分类器，每次迭代中提高...
分类：
其他好文 时间：
2015-09-07 22:49:51
阅读次数：
326
一、AdaBoost的损失函数 AdaBoost优化的是指数损失，即\begin{align*} \mathbb{E}_{\boldsymbol{x} \sim \mathfrak{D}, y}[e^{-y H(\boldsymbol{x})}] = \int_{\boldsymbol{x}} \....
分类：
编程语言 时间：
2015-08-28 13:01:37
阅读次数：
307
写在之前：前些文章曾经细数过从决策树、贝叶斯算法等一些简单的算法到神经网络(BP)、支持向量机（SVM）、adaboost等一些较为复杂的机器学习算法（对其中感兴趣的朋友可以往前的博客看看），各种算法各有优缺点，基本上都能处理线性与非线性样本集，然通观这些算法来看，个人感觉对于数据（无论线性还是非线性）的分类上来说，里面比较好的当数BP、SVM、adaboost元算法这三种了，由于前面在介绍相应算法...
分类：
编程语言 时间：
2015-08-26 17:55:03
阅读次数：
2919
作为(曾)被认为两大最好的监督分类算法之一的adaboost元算法(另一个为前几节介绍过的SVM算法)，该算法以其简单的思想解决复杂的分类问题，可谓是一种简单而强大的算法，本节主要简单介绍adaboost元算法，并以实例看看其效果如何。该算法简单在于adaboost算法不需要什么高深的思想，它的基础就是一个个弱小的元结构（弱分类器），比如就是给一个阈值，大于阈值的一类，小于阈值的一类，这样的最简单的...
分类：
编程语言 时间：
2015-08-21 19:31:38
阅读次数：
568
基于Haar特征Adaboost人脸检测级联分类基于Haar特征Adaboost人脸检测级联分类，称haar分类器。通过这个算法的名字，我们能够看到这个算法事实上包括了几个关键点：Haar特征、Adaboost、级联。理解了这三个词对该算法基本就掌握了。1算法要点Haar分类器 = Haar-lik...
分类：
其他好文 时间：
2015-08-13 11:54:26
阅读次数：
852
Harr-like特征，即很多人常说的Harr特征，是计算机视觉领域一种常用的特征描述算子。它最早是由Papageorigiou等人用于人脸描述。...
分类：
编程语言 时间：
2015-08-11 19:01:21
阅读次数：
333
GBDT之前实习的时候就听说应用很广，现在终于有机会系统的了解一下。首先对比上节课讲的Random Forest模型，引出AdaBoost-DTree(D)AdaBoost-DTree可以类比AdaBoost-Stump模型，就可以直观理解了1）每轮都给调整sample的权重2）获得gt(D,ut)...
分类：
其他好文 时间：
2015-08-06 00:21:40
阅读次数：
317
将Adaboost和decision tree相结合，需要注意的地主是，训练时adaboost需要改变资料的权重，如何将有权重的资 料和decision tree相结合呢？方法很类似于前面讲过的bagging，通过采样资料来使资料获得不同的权重。 一棵完全的树的权值...
分类：
其他好文 时间：
2015-08-03 22:33:00
阅读次数：
138
