决策树在分类、预测、规则提取等领域有着广泛的应用。决策树是一种树状结果，它的每一个叶节点对应一个分类。构造决策树的核心问题是：在每一步如何选择适当的属性对样本做拆分。对于分类问题，从已知类标记的训练样本中学习并构造出决策树是一个自上而下，分而治之的过程。常见的决策树算法如下：ID3算法C4.5算法C ...
分类：
其他好文 时间：
2020-01-30 17:31:55
阅读次数：
118
?我们之前提出了三个经典的问题，他们分别是： 1. 二分类问题（电影评论好坏倾向性判断） 2. 多分类问题（将新闻按照主题分类） 3. 回归问题（根据房地产数据估算房地产价格） 我们解决了前两个问题，今天我们解决第三个问题，回归问题。 不管是二分类问题还是多分类问题，归结起来都是分类问题，而回归问题 ...
分类：
其他好文 时间：
2020-01-29 20:12:06
阅读次数：
108
投票法（voting）是集成学习里面针对分类问题的一种结合策略。基本思想是选择所有机器学习算法当中输出最多的那个类。 分类的机器学习算法输出有两种类型：一种是直接输出类标签，另外一种是输出类概率，使用前者进行投票叫做硬投票(Majority/Hard voting)，使用后者进行分类叫做软投票(So ...
分类：
其他好文 时间：
2020-01-29 10:26:43
阅读次数：
232
为什么要用神经网络？ 为了获得非线性假设空间，我们引入神经网络模型。之前文章提到，对于分类问题，对数几率回归结合多项式特征可以得到非线性决策边界；而将多项式特则与线性回归结合也可以拟合非线性函数。既然我们已经可以得到非线性假设空间，为什么还要引入神经网络模型呢？这是因为当数据集特征数$d$增大时，高 ...
分类：
其他好文 时间：
2020-01-28 17:43:20
阅读次数：
61
本文将是一篇长文，是关于机器学习相关内容的一个总体叙述，会总结之前三个例子中的一些关键问题，读完此文将对机器学习有一个更加深刻和全面的认识，那么让我们开始吧。 我们前面三篇文章分别介绍了 "二分类问题" 、 "多分类问题" 和 "标量回归问题" ，这三类问题都是要将输入数据与目标结果之间建立联系。同 ...
分类：
其他好文 时间：
2020-01-24 14:41:46
阅读次数：
61
基本概念 对数几率回归（Logistic Regression，又称逻辑回归）可以用来解决二分类和多分类问题。分类问题中，输出集合不再是连续值，而是离散值，即$\mathcal{Y}\in \{0,1,2,\cdots\}$。以二分类问题为例，其输出集合一般为$\mathcal{Y}\in \{0, ...
分类：
其他好文 时间：
2020-01-23 21:23:06
阅读次数：
103
本文将是一篇长文，是关于机器学习相关内容的一个总体叙述，会总结之前三个例子中的一些关键问题，读完此文将对机器学习有一个更加深刻和全面的认识，那么让我们开始吧。 我们前面三篇文章分别介绍了 "二分类问题" 、 "多分类问题" 和 "标量回归问题" ，这三类问题都是要将输入数据与目标结果之间建立联系。同 ...
分类：
其他好文 时间：
2020-01-21 20:19:51
阅读次数：
94
?我们之前提出了三个经典的问题，他们分别是： 1. 二分类问题（电影评论好坏倾向性判断） 2. 多分类问题（将新闻按照主题分类） 3. 回归问题（根据房地产数据估算房地产价格） 我们解决了前两个问题，今天我们解决第三个问题，回归问题。 不管是二分类问题还是多分类问题，归结起来都是分类问题，而回归问题 ...
分类：
其他好文 时间：
2020-01-21 19:41:18
阅读次数：
122
上一篇文章我们介绍了深度学习的 Hello World，代码写起来相比其他语言的 Hello World 有点多，且其背后的很多原理你可能还没有完全弄懂，但从宏观上来看，整体的思想是很好理解的。接下包括本篇在内的三篇文章，我们来用深度学习解决三个实际问题，也是非常经典的三个问题，分别是： 1. 二分 ...
分类：
其他好文 时间：
2020-01-21 18:17:23
阅读次数：
148
上一节我们提到了三个非常经典的问题，他们分别是： 1. 二分类问题（电影评论好坏倾向性判断） 2. 多分类问题（将新闻按照主题分类） 3. 回归问题（根据房地产数据估算房地产价格） 上一篇中，我们介绍了其中的二分类问题，这一篇我们介绍其中的多分类问题。如果你没有阅读过上一篇，请先阅读上一篇，否则下文 ...
分类：
其他好文 时间：
2020-01-21 17:56:25
阅读次数：
76
