逻辑回归(logistic-regression)之梯度下降法详解
逻辑回归常用于预测疾病发生的概率，例如因变量是是否恶性肿瘤，自变量是肿瘤的大小、位置、硬度、患者性别、年龄、职业等等（很多文章里举了这个例子，但现代医学发达，可以通过病理检查，即获取标本放到显微镜下观察是否恶变来判断）；广告界中也常用于预测点击率或者转化率(cvr/ctr)，例如因变量是是否点击，自变量是物料的长、宽、广告的位置...
分类：
其他好文 时间：
2016-04-19 19:58:03
阅读次数：
1139
上一次我们分享了多变量线性回归模型(Linear Regression with Multiple Variables)，这一次我们来讨论一下多项式回归(Polynomial Regression)
和正规方程(Normal Equation)。（我们还是讨论房价预测的问题）
多项式回归
有时候，线性回归并不适用于所有全部的数据，我们需要曲线来适应我们的数据，比如一个二次方模型：
...
分类：
其他好文 时间：
2016-04-19 19:46:31
阅读次数：
151
1. 正则化概述（Regularization） 监督学习可以简单的理解为在最小化loss function 的同时，保证模型的复杂度尽可能的低，防止出现过拟合（overfitting）。常用的loss函数有square loss(Regression)，Hinge Loss(SVM)，exp-lo... ...
分类：
其他好文 时间：
2016-04-15 21:31:38
阅读次数：
275
机器学习总结之逻辑回归Logistic Regression 逻辑回归logistic regression，虽然名字是回归，但是实际上它是处理分类问题的算法。简单的说回归问题和分类问题如下： 回归问题：预测一个连续的输出。 分类问题：离散输出，比如二分类问题输出0或1. 逻辑回归常用于垃圾邮件分类... ...
分类：
其他好文 时间：
2016-04-14 17:31:14
阅读次数：
513
假设你在项目的'2.6.18'版上面工作, 但是你当前的代码(master)崩溃(crash)了. 有时解决这种问题的最好办法是: 手工逐步恢复(brute-force regression)项目历史, 找出是哪个提交(commit)导致了这个问题. 但是 linkgit:git-bisect1 可 ...
分类：
其他好文 时间：
2016-04-12 19:26:10
阅读次数：
119
LIME： 模型是否值得信任？ 我们在建立模型的时候，经常会思考我们的模型是不是够稳定，会不会出现样本偏差效应， p>>N时候会不会过拟合？ 我们检查模型稳定，我们进行一些cross-validation来看看各项评估指标方差大不大。 可是如果样本一开始因为采样偏差导致样本有偏，导致模型和实际情况有差异，这个就不太好评估了。同样，p>>N也会有类似的问题，尤其在文本挖掘领域。一般情况，如果特征不是很多的话，尤其像logistic regression这样的model，我们会把模型权重给打印出来看看，看看训...
分类：
其他好文 时间：
2016-04-11 12:27:20
阅读次数：
229
本文主要记录我在学习逻辑回归时的心得笔记，从假设函数、代价函数、优化方法等方面介绍了逻辑回归。...
分类：
其他好文 时间：
2016-04-10 14:52:08
阅读次数：
214
最近在Coursera上看吴大神的Machine Learning，感觉讲的真的很棒。所以觉得应该要好好做做笔记，一方面是加强自己对ML中一些方法的掌握程度和理解，另一方面也能方便自己或者同样爱好ML的同学。线性回归(Linear Regression) 线性回归（Linear Regression）应该是机器学习中最基本的东西了。所谓回归，想必大家在高中时期的课程里面就接触过，给定一系列离散的点...
分类：
其他好文 时间：
2016-04-10 14:50:43
阅读次数：
301
从 coursa 上面学的是说，监督学习是指我们来教计算机如何“学习”，非监督学习是指让计算机自己学习。监督学习又有两个大的分支，一个是 regression，另一个是 classification。 既然是我们来教计算机如何学习，那就必定有一个“标准答案”。regression 是说，这个标准答案 ...
分类：
系统相关 时间：
2016-04-10 10:13:28
阅读次数：
220
转载地址：http://blog.csdn.net/w28971023/article/details/8240756 GBDT(Gradient Boosting Decision Tree) 又叫 MART（Multiple Additive Regression Tree)，是一种迭代的决策树... ...
分类：
其他好文 时间：
2016-04-09 23:43:40
阅读次数：
540
