//2019.08.17#决策树算法1、决策树算法是一种非参数的决策算法，它根据数据的不同特征进行多层次的分类和判断，最终决策出所需要预测的结果。它既可以解决分类算法，也可以解决回归问题，具有很好的解释能力。 图 原理图2、对于决策树的构建方法具有多种出发点，它具有多种构建方式，如何构建决策树的出发 ...
分类：
编程语言 时间：
2019-08-17 19:38:27
阅读次数：
1003
一、决策树 在机器学习中，决策树是一个预测模型；他代表的是对象属性与对象值之间的一种映射关系。树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出，若欲有复数输出，可以建立独立的决策树以处理不同输出。数 ...
分类：
编程语言 时间：
2019-07-28 15:30:10
阅读次数：
123
之前对决策树的算法原理做了总结，包括决策树算法原理(上)和决策树算法原理(下)。今天就从实践的角度来介绍决策树算法，主要是讲解使用scikit-learn来跑决策树算法，结果的可视化以及一些参数调参的关键点。# 一、1.scikit-learn决策树算法类库介绍 scikit-learn决策树算法类... ...
分类：
编程语言 时间：
2019-07-19 19:12:06
阅读次数：
111
最大熵模型(maximum entropy model， MaxEnt)也是很典型的分类算法了，它和逻辑回归类似，都是属于对数线性分类模型。在损失函数优化的过程中，使用了和支持向量机类似的凸优化技术。而对熵的使用，让我们想起了决策树算法中的ID3和C4.5算法。理解了最大熵模型，对逻辑回归，支持向量... ...
分类：
其他好文 时间：
2019-07-19 18:26:51
阅读次数：
102
1 特征选择 特征选择的理解：在决策树算法中，每次选择一个最优的特征来分支是最最重要的一步，那究竟如何选择这个最优的特征就变成了关键问题。对于拿到的数据中，什么类别标签的样本都有，是十分不确定的，换句话说就是十分混乱的。用数据中其中一个特征来划分数据之后，数据的混乱程度都会变小，最优的划分特征就是通 ...
分类：
其他好文 时间：
2019-06-27 16:26:54
阅读次数：
168
智能运维用到的技术 1.数据聚合/关联技术概念聚类算法AOI分类算法K近邻/贝叶斯分类器/logistic回归(LR)/支持向量机(SVM)/随机森林(RF) 2.数据异常点检测技术独立森林算法 3.故障诊断和分析策略关联规则挖掘(Apriori算法/FP-growth算法)(有)决策树算法(迭代二 ...
分类：
其他好文 时间：
2019-06-19 16:43:16
阅读次数：
137
from:https://www.cnblogs.com/peizhe123/p/5086128.html GBDT(Gradient Boosting Decision Tree) 又叫 MART（Multiple Additive Regression Tree)，是一种迭代的决策树算法，该算法 ...
分类：
数据库 时间：
2019-05-23 16:38:11
阅读次数：
116
一、决策树 1.1、概述 if, else if, else,其实就就是决策树的思想。 只是这么多条件，哪个条件特征先做if，哪个条件特征后做if比较优呢？怎么准确定量选择这个标准就是决策树算法的要做的事情。 准备，补充两个对数去处公式： 1.2、信息论中的熵 熵度量了事物的不确定性，越不确定的事物 ...
分类：
其他好文 时间：
2019-05-23 16:02:47
阅读次数：
116
算法： 1、字符串匹配的三个算法（KMP+字典树+AC自动机） 2、KNN邻近分类算法 3、聚类算法 4、决策树算法 ...
分类：
其他好文 时间：
2019-05-04 12:10:28
阅读次数：
178
决策树算法原理(ID3，C4.5) 决策树算法原理(CART分类树) CART回归树 决策树的剪枝是通过极小化决策树整体的损失函数。(决策树的生成只考虑局部最优，决策树的剪枝考虑全局最优) 设树T的叶节点为 t，个数为 |T|，该叶节点有 Nt 个样本点，其中 k 类的样本点有 Ntk 个，k = ...
分类：
其他好文 时间：
2019-04-24 20:54:18
阅读次数：
212
