上一次我们分享了多变量线性回归模型(Linear Regression with Multiple Variables),这一次我们来讨论一下多项式回归(Polynomial Regression)
和正规方程(Normal Equation)。(我们还是讨论房价预测的问题)
多项式回归
有时候,线性回归并不适用于所有全部的数据,我们需要曲线来适应我们的数据,比如一个二次方模型:
...
分类:
其他好文 时间:
2016-04-19 19:46:31
阅读次数:
151
Softmax回归 1. softmax回归模型 softmax回归模型是logistic回归模型在多分类问题上的扩展(logistic回归解决的是二分类问题)。 对于训练集,有。 对于给定的测试输入,我们相拥假设函数针对每一个类别j估算出概率值。也就是说,我们估计得每一种分类结果出现的概率。因此我 ...
分类:
其他好文 时间:
2016-04-19 17:31:32
阅读次数:
440
Logistic回归 利用Logistic 回归的主要思想是:更具现有数据对分类边界线简历回归公式,以此进行分类。 Logistic 回归的一般过程 基于Logistic回归喝Sigmold函数的分类 优点:计算代价不高,易于理解和实现 缺点:容易欠拟合, 分类精度可能不高 使用数据类型: 数值型和 ...
分类:
其他好文 时间:
2016-04-16 17:05:06
阅读次数:
182
1. 正则化概述(Regularization) 监督学习可以简单的理解为在最小化loss function 的同时,保证模型的复杂度尽可能的低,防止出现过拟合(overfitting)。常用的loss函数有square loss(Regression),Hinge Loss(SVM),exp-lo... ...
分类:
其他好文 时间:
2016-04-15 21:31:38
阅读次数:
275
机器学习总结之逻辑回归Logistic Regression 逻辑回归logistic regression,虽然名字是回归,但是实际上它是处理分类问题的算法。简单的说回归问题和分类问题如下: 回归问题:预测一个连续的输出。 分类问题:离散输出,比如二分类问题输出0或1. 逻辑回归常用于垃圾邮件分类... ...
分类:
其他好文 时间:
2016-04-14 17:31:14
阅读次数:
513
假设你在项目的'2.6.18'版上面工作, 但是你当前的代码(master)崩溃(crash)了. 有时解决这种问题的最好办法是: 手工逐步恢复(brute-force regression)项目历史, 找出是哪个提交(commit)导致了这个问题. 但是 linkgit:git-bisect1 可 ...
分类:
其他好文 时间:
2016-04-12 19:26:10
阅读次数:
119
LIME: 模型是否值得信任? 我们在建立模型的时候,经常会思考我们的模型是不是够稳定,会不会出现样本偏差效应, p>>N时候会不会过拟合? 我们检查模型稳定,我们进行一些cross-validation来看看各项评估指标方差大不大。 可是如果样本一开始因为采样偏差导致样本有偏,导致模型和实际情况有差异,这个就不太好评估了。同样,p>>N也会有类似的问题,尤其在文本挖掘领域。一般情况,如果特征不是很多的话,尤其像logistic regression这样的model,我们会把模型权重给打印出来看看,看看训...
分类:
其他好文 时间:
2016-04-11 12:27:20
阅读次数:
229
本文主要记录我在学习逻辑回归时的心得笔记,从假设函数、代价函数、优化方法等方面介绍了逻辑回归。...
分类:
其他好文 时间:
2016-04-10 14:52:08
阅读次数:
214
最近在Coursera上看吴大神的Machine Learning,感觉讲的真的很棒。所以觉得应该要好好做做笔记,一方面是加强自己对ML中一些方法的掌握程度和理解,另一方面也能方便自己或者同样爱好ML的同学。线性回归(Linear Regression) 线性回归(Linear Regression)应该是机器学习中最基本的东西了。所谓回归,想必大家在高中时期的课程里面就接触过,给定一系列离散的点...
分类:
其他好文 时间:
2016-04-10 14:50:43
阅读次数:
301
从 coursa 上面学的是说,监督学习是指我们来教计算机如何“学习”,非监督学习是指让计算机自己学习。监督学习又有两个大的分支,一个是 regression,另一个是 classification。 既然是我们来教计算机如何学习,那就必定有一个“标准答案”。regression 是说,这个标准答案 ...
分类:
系统相关 时间:
2016-04-10 10:13:28
阅读次数:
220