如果说线性回归算法像丰田凯美瑞的话，那么梯度提升（GB）方法就像是UH-60黑鹰直升机。XGBoost算法作为GB的一个实现是Kaggle机器学习比赛的常胜将军。不幸的是，很多从业者都只把这个算法当作黑盒使用（包括曾经的我）。这篇文章的目的就是直观而全面的介绍经典梯度提升方法的原理。 原理说明 我们 ...
分类：
其他好文 时间：
2018-10-21 01:03:41
阅读次数：
505
1）机器学习模型理解 统计学习，神经网络 2）预测结果的衡量 代价函数（cost function）、损失函数（loss function） 3）线性回归是监督学习 ...
分类：
编程语言 时间：
2018-10-14 22:01:05
阅读次数：
230
1）简介 自变量，因变量，线性关系，相关系数，一元线性关系，多元线性关系（平面，超平面） 2）使用线性回归算法的前提 3）应用例子 沸点与气压 浮力与表面积 ...
分类：
编程语言 时间：
2018-10-14 21:57:02
阅读次数：
153
1）回归与分类算法的区别 回归的预测结果是连续的，分类的预测结果是离散的。 2）spark实现的回归算法有： 3）通过相关系数衡量线性关系的程度 ...
分类：
其他好文 时间：
2018-10-14 21:54:03
阅读次数：
165
1. 模型 逻辑回归的Model为:$ h_\theta(x)=\frac 1 {1+e^{ (\theta^Tx+b)}} $ 2.代价函数 针对一个样本的代价函数为： if y = 1 : $ cost(x)= log(h_\theta(x))$ if y = 0 : $ cost(x)= lo ...
分类：
编程语言 时间：
2018-09-28 00:09:19
阅读次数：
183
引言 线性和逻辑回归通常是人们为机器学习和数据科学学习的第一个建模算法。 两者都很棒，因为它们易于使用和解释。 然而，它们固有的简单性也有一些缺点，在许多情况下它们并不是回归模型的最佳选择。 实际上有几种不同类型的回归，每种都有自己的优点和缺点。 在这篇文章中，我们将讨论5种最常见的回归算法及其属性 ...
分类：
其他好文 时间：
2018-09-05 23:44:26
阅读次数：
242
逻辑回归是一个分类算法，它可以处理二元分类以及多元分类。虽然它名字里面有“回归”两个字，却不是一个回归算法。那为什么有“回归”这个误导性的词呢？个人认为，虽然逻辑回归是分类模型，但是它的原理里面却残留着回归模型的影子。邮件是否是垃圾邮件。细胞是否是癌细胞。 1. 从线性回归到逻辑回归 我们知道，线性 ...
分类：
其他好文 时间：
2018-08-19 14:02:06
阅读次数：
157
一、基础理解 问题：逻辑回归算法是用回归的方式解决分类的问题，而且只可以解决二分类问题； 方案：可以通过改造，使得逻辑回归算法可以解决多分类问题； 改造方法： 改造方法不是指针对逻辑回归算法，而是在机器学习领域有通用性，所有二分类的机器学习算法都可使用此方法进行改造，解决多分类问题； 二、原理 1） ...
分类：
其他好文 时间：
2018-07-30 13:28:50
阅读次数：
6125
线性回归算法概述 误差项分析 似然函数求解 线性回归求解 ...
分类：
编程语言 时间：
2018-07-29 15:12:52
阅读次数：
130
逻辑回归算法原理推导 逻辑回归，虽然叫回归，但还是一个分类算法 逻辑回归求解 ...
分类：
编程语言 时间：
2018-07-29 15:12:00
阅读次数：
119
