首先用一个形象的例子来说明AdaBoost的过程:1. 每次产生一个弱的分类器,把本轮错的样本增加权重丢入下一轮2. 下一轮对上一轮分错的样本再加重学习,获得另一个弱分类器经过T轮之后,学得了T个弱分类器,再将这T个弱分类器组合在一起,形成了一个强分类器。由于每一轮样本的权重都在变化,因此分类器学习...
分类:
其他好文 时间:
2015-08-01 18:35:00
阅读次数:
255
提升树是以决策树为基分类器的提升方法,通常使用CART树。针对不同问题的提升树学习算法,主要区别在于使用的损失函数不同。1)分类问题:指数损失函数。可以使用CART分类树作为AdaBoost的基分类器,此时为分类提升树。2)回归问题:平方误差损失函数。3)决策问题:一般损失函数。1、提升树算法提升树...
分类:
编程语言 时间:
2015-07-31 21:44:07
阅读次数:
371
1,AdaBoost中利用Haar特征进行人脸识别算法分析与总结1——Haar特征与积分图2,浅谈 Adaboost 算法3,浅析人脸检测之Haar分类器方法4,http://wenku.baidu.com/link?url=wIs4yLspMwybtq0-IyckXg-U75CYDqAOLOdHR...
分类:
其他好文 时间:
2015-07-31 17:40:41
阅读次数:
111
classsklearn.ensemble.AdaBoostRegressor(base_estimator=None,n_estimators=50,learning_rate=1.0,loss='linear',random_state=None)[source]An AdaBoost regr...
分类:
其他好文 时间:
2015-07-28 20:56:08
阅读次数:
1892
引言在之前的两节博文《混合和装袋》和《自适应提升》中,我们已经有现成的一堆假设g在手中,我们还如何将这些g混合起来,得到更好的分类器。
混合方式可以分为三种情况:
把g看做是同等地位,通过投票或者平均的方式将它们合起来,称为Bagging
g是不平等的,有好有坏,一个可行的做法是把g当成是特征的转换,然后丢进线性模型训练就可以了,这称为AdaBoost
如果是不同的条件下,使用不...
分类:
编程语言 时间:
2015-07-26 12:40:57
阅读次数:
172
引言上一节中介绍了《随机森林算法》,该算法使用bagging的方式作出一些决策树来,同时在决策树的学习过程中加入了更多的随机因素。该模型可以自动做到验证过程同时还可以进行特征选择。
这一节,我们将决策树和AdaBoost算法结合起来,在AdaBoost中每一轮迭代,都会给数据更新一个权重,利用这个权重,我们学习得到一个g,在这里我们得到一个决策树,最终利用线性组合的方式得到多个决策树组成的G。...
分类:
其他好文 时间:
2015-07-26 12:38:46
阅读次数:
149
组合模型组合模型一般要比单个算法要好,下面简单的介绍下Bootstraping, Bagging, Boosting, AdaBoost, RandomForest 和Gradient boosting这些组合型算法.1.BootstrapingBootstraping: 名字来自成语“pull up by your own bootstraps”,意思就是依靠你自己的资源,称为自助法,它是一种有放...
分类:
编程语言 时间:
2015-07-24 22:39:31
阅读次数:
497
我使用的是opencv2.4.9,cvCreateTreeCascadeClassifier的源码在......opencv\sources\apps\haartraining\cvhaartraining.cpp之中,这中间用到很多结构体,指针函数,宏等各方面的内容,请参考我博客中的文章opencv源码详细解读目录。如需转载请注明本博网址http://blog.csdn.net/ding9779...
分类:
其他好文 时间:
2015-07-20 19:41:48
阅读次数:
642
/*
*icvPrecalculate
*作用:计算特征值,并排序
*具体来说也就是根据训练样本信息和haar特征信息,在函数内部引用icvGetTrainingDataCallback来
*分批计算正负样本的前numprecalated个haar特征值,并把计算好的特征值进行排序,最后结果存储在data->valcache之中
*/
static
void icvPrecalculat...
分类:
其他好文 时间:
2015-07-14 15:43:28
阅读次数:
162
我使用的是opencv2.4.9,安装后,我的cvboost..cpp文件的路径是........\opencv\sources\apps\haartraining\cvhaartraining.cpp,研究源码那么多天,有很多收获,opencv库真是非常强大。其中在这篇博文中我有部分注释,其他的有关知识请参考我博客http://blog.csdn.net/ding977921830?viewmo...
分类:
其他好文 时间:
2015-07-13 12:20:37
阅读次数:
337