? 熵、互信息? 决策树学习算法 ? 信息增益 ? ID3、C4.5、CART? Bagging与随机森林? 提升 ? Adaboost/GDBT ? 熵、互信息 熵是对平均不确定性的度量。 平均互信息：得知特征Y的信息而使得对标签X的信息的不确定性减少的程度。描述随机变量之间的相似程度。（条件熵、 ...
分类：
其他好文 时间：
2017-03-25 23:55:25
阅读次数：
452
在之前的文章中，分别讲解了Haar特征，强弱分类器组合形式，以及GAB。那么在了解这些内容的基础上，本节开始正式讲解OpenCV Adaboost训练过程。需要再次说明的是，本系列文章讲解的是OpenCV中的opencv_traincascade.exe程序的实现方法，并不代表仅只有此一种实现方法。 ...
分类：
其他好文 时间：
2017-03-17 08:15:56
阅读次数：
2435
本节文章讲解OpenCV中Haar+Adaboost的训练过程。此文章假定读者已经了解前面5章的内容，包括Haar特征，弱分类器和强分类器结构，以及GAB等内容。 在opencv_traincascade.exe程序中，有如下参数 如上输入的boostParams中的6个参数决用于决定训练过程: 1 ...
分类：
其他好文 时间：
2017-03-17 00:29:39
阅读次数：
4550
之前的文章主要讲解了OpenCV中与检测相关的内容，包括Haar特征、积分图和检测分类器结构；之后的文章将逐步开始介绍训练相关的内容。而本节主要介绍AdaBoost的理论，以及AdaBoost中的DAB与GAB算法，为后续讲解奠定基础。 （一） AdaBoost背景介绍 在了解AdaBoost之前， ...
分类：
其他好文 时间：
2017-03-17 00:02:28
阅读次数：
1382
1、主要内容 介绍集成学习，然后讲述boosting和bagging的区别与联系，同时对adaBoost进行推导然后进行gbdt的推导，最后比较随机森林和gdbt的区别和联系。 2、集成学习 集成学习（ensamble learning）通过构建多个学习器来完成任务。集成学习的一般结构：先产生一组“ ...
分类：
编程语言 时间：
2017-03-15 16:45:34
阅读次数：
308
机器学习算法太多了，分类、回归、聚类、推荐、图像识别领域等等，要想找到一个合适算法真的不容易，所以在实际应用中，我们一般都是采用启发式学习方式来实验。通常最开始我们都会选择大家普遍认同的算法，诸如SVM，GBDT，Adaboost，现在深度学习很火热，神经网络也是一个不错的选择。假如你在乎精度（ac ...
分类：
编程语言 时间：
2017-03-12 01:15:55
阅读次数：
1345
提升方法(boosting)详解 提升方法（boosting）是一种常用的统计学习方法，应用广泛且有效。在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能。 本章首先介绍提升方法的思路和代表性的提升算法AdaBoost，然后通过训练误差分析探讨AdaB ...
分类：
其他好文 时间：
2017-02-15 00:44:41
阅读次数：
138
有人认为 AdaBoost 是最好的监督学习的方式。 某种程度上因为它是元算法，也就是说它会是几种分类器的组合。这就好比对于一个问题能够咨询多个 "专家" 的意见了。 组合的方式有多种，可能是不同分类算法的分类器，可能是同一算法在不同设置下的集成，还可以是数据集在不同部分分配给不同分类器之后的集成等... ...
分类：
编程语言 时间：
2017-01-19 10:24:43
阅读次数：
308
通过对所有的决策树进行加总来预测新的数据（在分类时采用多数投票，在回归时采用平均）。 ...
分类：
其他好文 时间：
2017-01-17 14:15:05
阅读次数：
243
前两篇文章分别介绍了级联分类器的原理和源码解析，下面我们给出一个具体的应用实例。
下面我们以车牌识别为例，具体讲解OpenCV的级联分类器的用法。在这里我们只对蓝底白字的普通车牌进行识别判断，对...
分类：
其他好文 时间：
2017-01-14 09:31:53
阅读次数：
302
