写在前面的话
趁着现在我还是高中数理化老师，偶尔兼职英语老师的时候赶紧抓紧时间写点有关计算机科学技术的东西。一来是表示我对计算机的热爱，二来，当然是最重要的咯，满足一下我强大的虚荣心。哈哈哈哈！想想高中数学物理化学老师在折腾计算机，是不是有种瞬间吊炸天的感觉。
这个系列我写了一个月了，之后会陆陆续续的放出来的。希望对大家有一点点帮助。如果您没有看懂我在写啥，那一定是我错了，...
分类：
编程语言 时间：
2016-07-13 16:39:29
阅读次数：
227
继上篇文章决策树之 ID3 与 C4.5，本文继续讨论另一种二分决策树 Classification And Regression Tree，CART 是 Breiman 等人在 1984 年提出的，是一种应用广泛的决策树算法，不同于 ID3 与 C4.5, CART 为一种二分决策树， 每次对特征... ...
分类：
其他好文 时间：
2016-07-06 18:06:11
阅读次数：
167
在网上看到一篇对从代码层面理解gbdt比较好的文章，转载记录一下： GBDT(Gradient Boosting Decision Tree) 又 叫 MART（Multiple Additive Regression Tree)，是一种迭代的决策树算法，该算法由多棵决策树组成，所有树的结论 累加起 ...
分类：
其他好文 时间：
2016-07-01 22:50:34
阅读次数：
220
引、最近老师布置了课堂展示的作业，主题是决策树，老师还举了买西瓜的决策例子，感觉贴近生活也很有意思。在这之前没有了解过这个概念，通过几个礼拜的学习收获不少。一、首先，什么是决策树？百度百科：决策树(DecisionTree）是在已知各种情况发生概率的基础上，通过构成决策..
分类：
编程语言 时间：
2016-06-04 18:01:11
阅读次数：
280
决策树
决策树与随机森林都属于机器学习中监督学习的范畴，主要用于分类问题。
决策树算法有这几种：ID3、C4.5、CART，基于决策树的算法有bagging、随机森林、GBDT等。
决策树是一种利用树形结构进行决策的算法，对于样本数据根据已知条件或叫特征进行分叉，最终建立一棵树，树的叶子结节标识最终决策。新来的数据便可以根据这棵树进行判断。随机森林是一种通过多棵决策树进行优化决策的算法。
案例：...
分类：
其他好文 时间：
2016-05-27 12:04:59
阅读次数：
3744
Weka为一个Java基础上的机器学习工具。上手简单，并提供图形化界面。提供如分类、聚类、频繁项挖掘等工具。本篇文章主要写一下分类器算法中的J48算法及事实上现。 一、算法 J48是基于C4.5实现的决策树算法。对于C4.5算法相关资料太多了。笔者在这里转载一部分（来源：http://blog.cs ...
分类：
其他好文 时间：
2016-05-22 00:39:00
阅读次数：
279
一、原理
梯度提升树（GBT，Gradient Boosted Trees，或称为梯度提升决策树）算法是由Friedman于1999年首次完整的提出，该算法可以实现回归、分类和排序。GBT的优点是特征属性无需进行归一化处理，预测速度快，可以应用不同的损失函数等。
从它的名字就可以看出，GBT包括三个机器学习的优化算法：决策树方法、提升方法和梯度下降法。前两种算法在我以前的文章中都有详细的...
分类：
其他好文 时间：
2016-05-20 19:43:21
阅读次数：
276
算法介绍回归和分类回归算法和分类算法通常会被联系在一起，因为两者都可以通过一个或者多个值来预测一个或者多个值 he
为了能够做出预测，两者需要从一组输入和输出中学习预测规则，在学习过程中需要告诉它们问题以及问题的答案
因此，回归和分类都属于监督学习类的算法回归是预测一个数值型的结果，例如温度，成绩等
分类是预测一个标号或者类别，例如邮件是否为辣鸡邮件，一个人是属于哪个人种这里将使用决策树和...
分类：
编程语言 时间：
2016-05-13 03:59:17
阅读次数：
280
（一）认识决策树 1、决策树分类原理 决策树是通过一系列规则对数据进行分类的过程。它提供一种在什么条件下会得到什么值的类似规则的方法。决策树分为分类树和回归树两种，分类树对离散变量做决策树，回归树对连续变量做决策树。 近来的调查表明决策树也是最经常使用的数据挖掘算法，它的概念非常简单。决策树算法之所 ...
分类：
编程语言 时间：
2016-05-08 19:39:51
阅读次数：
419
决策树是附加概率结果的一个树状的决策图，是直观的运用统计概率分析的图法。机器学习中决策树是一个预测模型，它表示对象属性和对象值之间的一种映射，树中的每一个节点表示对象属性的判断条件，其分支表示符合节点条件的对象。树的叶子节点表示对象所属的预测结果。...
分类：
编程语言 时间：
2016-05-06 15:31:06
阅读次数：
299
