前言： 决策树这种算法有着很多良好的特性，比如说训练时间复杂度较低，预测的过程比较快速，模型容易展示（容易将得到的决策树做成图片展示出来）等。但是同时， 单决策树又有一些不好的地方，比如说容易over-fitting，虽然有一些方法，如剪枝可以减少这种情况，但是还是不够的。 模型组合（比如说有Boo ...
分类：
其他好文 时间：
2016-10-13 02:43:34
阅读次数：
190
这节课终于不是那么迷糊了，如果100分满分的话，听懂程度有70分了，初学者就是这么容易满足。 :| 老师说这是这20次课里最简单的一次。。。oh。。。no。 不废话了，接着记笔记吧。 CART：classsification and regression tree 三种决策树：ID3，C4.5，CA ...
分类：
其他好文 时间：
2016-10-11 13:51:38
阅读次数：
125
前言： 决策树这种算法有着很多良好的特性，比如说训练时间复杂度较低，预测的过程比较快速，模型容易展示（容易将得到的决策树做成图片展示出来）等。但是同时，单决策树又有一些不好的地方，比如说容易over-fitting，虽然有一些方法，如剪枝可以减少这种情况，但是还是不够的。 美国金融银行业的大数据算法 ...
分类：
编程语言 时间：
2016-10-10 21:04:56
阅读次数：
264
随机森林是将bagging和decision tree结合在一起的算法。 random forest同样也继承了两个算法的优点，但是同时也解决了过拟合的缺点。 通过降维的方式来提高运算的速度。 每一个低维度的空间都可以看成是原feature的一个线性组合，由高维度向低维度的转换的过程是随机的，这样又 ...
分类：
其他好文 时间：
2016-10-08 16:11:36
阅读次数：
215
原文地址： https://www.analyticsvidhya.com/blog/2015/06/tuning-random-forest-model/ A month back, I participated in a Kaggle competition called TFI. I star ...
分类：
其他好文 时间：
2016-10-07 23:19:52
阅读次数：
1802
一.简述 Spark是当下非常流行的数据分析框架，而其中的机器学习包Ｍllib也是其诸多亮点之一，相信很多人也像我那样想要快些上手spark。下面我将列出实现mllib分类的简明代码，代码中将简述训练集和样本集的结构，以及各分类算法的参数含义。分类模型包括朴素贝叶斯，ＳＶＭ，决策树以及随机森林。 二 ...
分类：
编程语言 时间：
2016-09-30 01:46:02
阅读次数：
296
文章部分图片来源于龙心尘老师课件。 首先，在了解树模型之前，自然想到树模型和线性模型有什么区别呢？其中最重要的是，树形模型是一个一个特征进行处理，之前线性模型是所有特征给予权重相加得到一个新的值。而树形模型更加接近人的思维方式。树模型拟合出来的函数其实是分区间的阶梯函数。 其次，需要了解几个重要的基 ...
分类：
其他好文 时间：
2016-09-21 21:41:37
阅读次数：
548
逻辑回归算法相信很多人都很熟悉，也算是我比较熟悉的算法之一了，毕业论文当时的项目就是用的这个算法。这个算法可能不想随机森林、SVM、神经网络、GBDT等分类算法那么复杂那么高深的样子，可是绝对不能小看这个算法，因为它有几个优点是那几个算法无法达到的，一是逻辑回归的算法已经比较成熟，预测较为准确；二是 ...
分类：
其他好文 时间：
2016-09-12 19:08:47
阅读次数：
696
大家都清楚神经网络在上个世纪七八十年代是着实火过一回的，尤其是后向传播BP算法出来之后，但90年代后被SVM之类抢了风头，再后来大家更熟悉的是SVM、AdaBoost、随机森林、GBDT、LR、FTRL这些概念。究其原因，主要是神经网络很难解决训练的问题，比如梯度消失。当时的神经网络研究进入一个低潮... ...
分类：
其他好文 时间：
2016-08-30 13:38:16
阅读次数：
198
