正好在参加携程的比赛，用的xgboost的算法，但携程比赛的测评函数比较奇怪，不是传统的那些，而是取precision≥0.97的情况下，recall的最大值。那无疑这个测评函数是要自己写的（官方没给），可是我怎么把它放进xgboost里呢？这样我设置silent=1时，我每一步都能看到train和 ...
分类：
编程语言 时间：
2016-08-27 00:26:00
阅读次数：
1346
网上很多windows python下安装xgboost都是很简单的几步无非是visual studio2013以上版本编译，安装。但现在最新的xgboost已经移除了c++工程文件，找到旧版本的也多是64位python版本安装xgboost的安装教程。由于我python32位已经安装了很多组件，改 ...
分类：
编程语言 时间：
2016-08-22 12:35:35
阅读次数：
180
图片数据：卷积还是王道，有几个比较通用性的框架被人拿来改来改去 非图片特征数据：用分类： boost系列算法：牛逼的框架实现 xgboost AdaBoost算法针对不同的训练集训练同一个基本分类器（弱分类器），然后把这些在不同训练集上得到的分类器集合起来，构成一个更强的最终的分类器（强分类器）。理 ...
分类：
其他好文 时间：
2016-08-02 13:08:55
阅读次数：
227
XGBoost参数调优完全指南（附Python代码）
原文地址：Complete Guide to Parameter Tuning in XGBoost (with codes in Python)
译注：文内提供的代码和运行结果有一定差异，可以从这里下载完整代码对照参考。另外，我自己跟着教程做的时候，发现我的库无法解析字符串类型的特征，所以只用其中一部分特征做的，具体数值跟文章中不一样...
分类：
编程语言 时间：
2016-07-19 13:49:24
阅读次数：
977
什么是MXnet?1这是自xgboost,cxxnet,minerva以来集合DMLC几乎所有开发者(李沐和陈天奇等各路英雄豪杰)力量的一个机器学习项目。MXNet名字源于”MixandMaximize”。MXnet的目标就是希望把cxxnet这样强调性能静态优化的C++库和灵活的NDArray有机结合在一起。做包含cxxnet的静态优..
分类：
Web程序 时间：
2016-07-08 20:00:53
阅读次数：
415
听说xgboost效果很不错，于是准备学习下，但是发现大多数资料都是在讲如何在windows或linux下安装xgboost,而且照着官方文档也没有正确的安装好多线程的xgboost。最后还是从there找到了方法。 1. Mac OSX系统一般自带python，打开终端输入python即可写pyt ...
分类：
系统相关 时间：
2016-06-17 23:53:12
阅读次数：
991
GBDT和xgboost在竞赛和工业界使用都非常频繁，能有效的应用到分类、回归、排序问题，虽然使用起来不难，但是要能完整的理解还是有一点麻烦的。本文尝试一步一步梳理GB、GBDT、xgboost，它们之间有非常紧密的联系，GBDT是以决策树（CART）为基学习器的GB算法，xgboost扩展和改进了GDBT，xgboost算法更快，准确率也相对高一些。
1. Gradient boo...
分类：
其他好文 时间：
2016-05-31 10:39:58
阅读次数：
417
首先装git，之后操作都在git bash里 1、git clone --recursive https://github.com/dmlc/xgboost 2、cd xgboost 3、下载https://www.dropbox.com/s/y8myex4bnuzcp03/Makefile_win ...
https://github.com/beniz/deepdetect DeepDetect (http://www.deepdetect.com/) is a machine learning API and server written in C++11. It makes state of t ...
分类：
编程语言 时间：
2016-05-02 02:18:33
阅读次数：
879
1.模型
（1）整体模型函数如下：
其中 k 表示树的数量，f 表示每棵树的预测函数；
（2）截取到第 t 棵树的模型函数表示如下：
2.训练
（1）每次训练一棵树，目标函数如下：
其中第一项是损失函数，第二项是防止过拟合；N表示样本数，T表示所有树的叶子数目，t 表示训练第 t 棵树，w 表示叶子的输出值；
（2）泰勒展开（二阶展开）：...
分类：
其他好文 时间：
2016-04-29 15:50:16
阅读次数：
204
