//转自 《XGBoost 与 Boosted Tree | 我爱计算机》 1. 前言应 @龙星镖局 兄邀请写这篇文章。作为一个非常有效的机器学习方法,Boosted Tree是数据挖掘和机器学习中最常用的算法之一。因为它效果好,对于输入要求不敏感,往往是从统计学家到数据科学家必备的工具之一,它同时 ...
分类:
其他好文 时间:
2017-01-20 15:54:10
阅读次数:
585
1.背景 关于xgboost的原理网络上的资源很少,大多数还停留在应用层面,本文通过学习陈天奇博士的PPT 地址和xgboost导读和实战 地址,希望对xgboost原理进行深入理解。 2.xgboost vs gbdt 说到xgboost,不得不说gbdt。了解gbdt可以看我这篇文章 地址,gb ...
分类:
其他好文 时间:
2016-12-30 21:01:41
阅读次数:
686
ImportError: No module named xgboost 解决办法: 如果已经完成了一下步骤: 请尝试在当前目录下继续执行: 更多细节见: http://stackoverflow.com/questions/40747738/importerror-no-module-named- ...
分类:
系统相关 时间:
2016-12-12 02:12:04
阅读次数:
1548
XGBoost参数调优完全指南(附Python代码):http://www.2cto.com/kf/201607/528771.html https://www.zhihu.com/question/41354392 【以下转自知乎】 https://www.zhihu.com/question/4 ...
分类:
编程语言 时间:
2016-12-02 18:40:13
阅读次数:
773
gbdt(又称Gradient Boosted Decision Tree/Grdient Boosted Regression Tree),是一种迭代的决策树算法,该算法由多个决策树组成。它最早见于yahoo,后被广泛应用在搜索排序、点击率预估上。 xgboost是陈天奇大牛新开发的Boostin ...
分类:
其他好文 时间:
2016-10-10 20:42:34
阅读次数:
600
xgboost是基于GBDT原理进行改进的算法,效率高,并且可以进行并行化运算; 而且可以在训练的过程中给出各个特征的评分,从而表明每个特征对模型训练的重要性, 调用的源码就不准备详述,本文主要侧重的是计算的原理,函数get_fscore源码如下, 源码来自安装包:xgboost/python-pa ...
分类:
其他好文 时间:
2016-10-03 19:11:50
阅读次数:
2454
由于最近要经常用到XGBOOST的包,不免对相关的GBDT的原理又重新学习了一遍, 发现其中在考虑损失函数的时候,是以对数log进行度量的,囿于误差平方和函数的印象 那么为什么是对数呢?可能是下面的原因: 【通俗的解释】 对数损失是用于最大似然估计的。一组参数在一堆数据下的似然值,等于每一条数据的概 ...
分类:
其他好文 时间:
2016-09-30 00:53:41
阅读次数:
376
xgboost入门非常经典的材料,虽然读起来比较吃力,但是会有很大的帮助: 英文原文链接:https://www.analyticsvidhya.com/blog/2016/03/complete-guide-parameter-tuning-xgboost-with-codes-python/ 原 ...
分类:
编程语言 时间:
2016-09-26 15:59:45
阅读次数:
212
How to Configure the Gradient Boosting Algorithm by Jason Brownlee on September 12, 2016 in XGBoost 0 0 0 0 0 0 0 0 Gradient boosting is one of the mo ...
分类:
其他好文 时间:
2016-09-14 00:23:30
阅读次数:
755
A Gentle Introduction to the Gradient Boosting Algorithm for Machine Learning by Jason Brownlee on September 9, 2016 in XGBoost 0 0 0 0 0 0 0 0 Gradie ...
分类:
系统相关 时间:
2016-09-14 00:21:30
阅读次数:
216