难点：如何产生“好而不同”的个体学习器；“好而不同”：“准确性”和“多样性” 一、个体与集成 构建并结合多个学习器来完成学习任务 集成：结果通过投票法voting产生，“少数服从多数” 获得整体性能提升要求个体学习器：好而不同 1）个体学习器有一定的“准确性” 2）学习器间具有差异 集成学习的错误率 ...
分类：
其他好文 时间：
2017-08-11 23:51:55
阅读次数：
268
1、集成学习概述 1.1 集成学习概述 集成学习在机器学习算法中具有较高的准去率，不足之处就是模型的训练过程可能比较复杂，效率不是很高。目前接触较多的集成学习主要有2种：基于Boosting的和基于Bagging，前者的代表算法有Adaboost、GBDT、XGBOOST、后者的代表算法主要是随机森 ...
分类：
编程语言 时间：
2017-08-08 16:40:54
阅读次数：
256
转自http://blog.csdn.net/lvhao92/article/details/51079018 集成学习大致分为两类，一类串行生成。如Boosting。一类为并行化。如Bagging和“随机森林”。 以下分别介绍： 1.Boosting 这种方法是先训练出一个基学习机。然后。对训练样 ...
分类：
其他好文 时间：
2017-07-31 13:21:51
阅读次数：
165
1、引言 2017年CVPR上有不少关于跟踪的paper。CF方面最引人瞩目的应该是ECO了，CNN方面也有一些新的进展。Branchout是一个基于CNN用bagging集成的在线跟踪方法。 contributions: （1）提出了一种简单有效的正则化技术branchout，减少了集成学习方法在 ...
分类：
其他好文 时间：
2017-07-25 15:40:28
阅读次数：
137
前言 关于学习，总是还习惯用笔记录，但是查找起来真的很不方便，是时候回顾一下，并记录在网站上了。 maven官方网站：http://maven.apache.org/ maven仓库：http://mvnrepository.com/ 私服仓库：http://maven.aliyun.com/nex ...
分类：
其他好文 时间：
2017-05-31 21:29:54
阅读次数：
272
集成学习里面有两大派：Bagging和Boosting，每一派都有其代表性算法，这里给出一个大纲。 先来说下Bagging和Boosting之间的区别：bagging methods work best with strong and complex models (e.g., fully deve ...
分类：
其他好文 时间：
2017-05-15 21:05:33
阅读次数：
182
说到ML中Boosting和Bagging，他们属于的是ML中的集成学习
集成学习法（Ensemble Learning）
① 将多个分类方法聚集在一起，以提高分类的准确率。
（这些算法可以是不同的...
分类：
其他好文 时间：
2017-04-23 21:12:37
阅读次数：
337
1.11. Ensemble methods（集成学习） 目标： 相对于当个学习器，集成学习通过使用多个基学习器的预测结果来来提高学习预测的泛化性能以及鲁棒性； 集成学习的两个思路： 1）、通过使用并行的学习，得到多个学习模型然后取其平均结果目的在于减少方差，代表算法有随机森林。通常来说多个学习器的 ...
分类：
其他好文 时间：
2017-04-13 22:53:19
阅读次数：
801
转：http://www.cnblogs.com/jasonfreak/p/5657196.html 目录 1 前言2 集成学习是什么？3 偏差和方差 3.1 模型的偏差和方差是什么？ 3.2 bagging的偏差和方差 3.3 boosting的偏差和方差 3.4 模型的独立性 3.5 小结4 G ...
分类：
其他好文 时间：
2017-04-06 09:37:57
阅读次数：
267
转：http://www.cnblogs.com/jasonfreak/p/5720137.html 目录 1 Random Forest和Gradient Tree Boosting参数详解2 如何调参？ 2.1 调参的目标：偏差和方差的协调 2.2 参数对整体模型性能的影响 2.3 一个朴实的方 ...
分类：
其他好文 时间：
2017-04-06 09:27:12
阅读次数：
233
