本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系wheeleast@gmail.com 前言： 决策树这种算法有着很多良好的特性，比如说训练时间复杂度较低，预测的过程比较快速，模型容易 ...
分类：
其他好文 时间：
2016-08-02 11:32:50
阅读次数：
182
最近看sklearn的源码比较多，好记性不如烂笔头啊，还是记一下吧。
整体：
）实现的代码非常好，模块化、多继承等写的很清楚。
）predict功能通常在该模型的直接类中实现，fit通常在继承的类中实现，方便不同的子类共同引用。
随机森林 和 GBDT
）RandomForest的bootstrap是又放回的；GBDT则是无放回的。...
分类：
其他好文 时间：
2016-07-13 16:56:49
阅读次数：
1890
《Brief History of Machine Learning》 介绍:这是一篇介绍机器学习历史的文章，介绍很全面，从感知机、神经网络、决策树、SVM、Adaboost到随机森林、Deep Learning. 《Deep Learning in Neural Networks: An Over ...
分类：
系统相关 时间：
2016-06-30 15:59:41
阅读次数：
257
版权声明： 本文由LeftNotEasy发布于http://leftnoteasy.cnblogs.com, 本文可以被全部的转载或者部分使用，但请注明出处，如果有问题，请联系wheeleast@gmail.com 前言： 决策树这种算法有着很多良好的特性，比如说训练时间复杂度较低，预测的过程比较快 ...
分类：
编程语言 时间：
2016-06-29 23:48:40
阅读次数：
434
引言
模式识别是一门基于数据的学科，因此所有的模式识别问题都会面临的同一个问题就是数据的随机性问题。模式识别中每个方法的实现都是基于一个特定的数据样本集的，但是这个样本集只是所有可能的样本中的一次随机抽样，毕竟在我们的生活实际中存在着万物众生，多到我们数也数不清，甚至计算机都无法统计的清，而我们搜集到的充其量只是其中很小很小的一部分，这也是为什么机器学习中缺少的只是数据，只要有足够...
分类：
其他好文 时间：
2016-06-21 07:56:40
阅读次数：
160
??
阅读目录
?1 什么是随机森林？
?2 随机森林的特点
?3 随机森林的相关基础知识
?4 随机森林的生成
?5 袋外错误率（oob error）
?6 随机森林工作原理解释的一个简单例子
?7 随机森林的Python实现
?8 参考内容
1 什么是随机森林？
作为新兴起的、高度灵活的一种机器学习算法，随机森林（Random Forest，简称R...
分类：
其他好文 时间：
2016-06-16 11:41:40
阅读次数：
276
一、原理
随机森林（Random Forest）的思想最早是由Ho于1995年首次提出，后来Breiman完整系统的发展了该算法，并命名为随机森林，而且他和他的博士学生兼同事Cutler把Random Forest注册成了商标，这可能也是Opencv把该算法命名为Random Trees的原因吧。
一片森林是由许多棵树木组成，森林中的每棵树可以说是彼此不相关，也就是说每棵树木的生长完全是...
分类：
其他好文 时间：
2016-06-03 19:23:48
阅读次数：
209
这里仅介绍分类决策树。 决策树：特征作为决策的判定标准，整个模型形如树形结构，因此，称之为决策树 对于分类决策树，他们可以认为是一组if-then规则的集合。决策树的每一个内部节点有特征组成，叶子节点代表了分类的结果。父节点和子节点之间是由有向边连接，表示了决策的结果。 在这里，有必要解释一下，为什 ...
分类：
其他好文 时间：
2016-06-01 12:53:24
阅读次数：
205
在这篇文章中，我会详细地介绍Bagging、随机森林和AdaBoost算法的实现，并比较它们之间的优缺点，并用scikit-learn分别实现了这3种算法来拟合Wine数据集。全篇文章伴随着实例，由浅入深，看过这篇文章以后，相信大家一定对ensemble的这些方法有了很清晰地了解。...
分类：
其他好文 时间：
2016-05-27 12:52:54
阅读次数：
856
决策树
决策树与随机森林都属于机器学习中监督学习的范畴，主要用于分类问题。
决策树算法有这几种：ID3、C4.5、CART，基于决策树的算法有bagging、随机森林、GBDT等。
决策树是一种利用树形结构进行决策的算法，对于样本数据根据已知条件或叫特征进行分叉，最终建立一棵树，树的叶子结节标识最终决策。新来的数据便可以根据这棵树进行判断。随机森林是一种通过多棵决策树进行优化决策的算法。
案例：...
分类：
其他好文 时间：
2016-05-27 12:04:59
阅读次数：
3744
