Dataset
每年高中生和大学生都会申请进入到各种各样的高校和事业单位中去。每个学生都有一组独一无二的考试分数,成绩,和背景。录取委员会根据这个决定接受或拒绝这些申请者。在这种情况下一个二进制分类算法可用于接受或拒绝申请。逻辑回归是一个合适的方法,我们将在这个任务中解决这个问题数据集admissions.csv包含了1000个申请者的信息,特征如下: gre - Graduate Recor...
分类:
其他好文 时间:
2016-04-29 18:17:31
阅读次数:
690
判定边界(Decision Boundary)
上一次我们讨论了一个新的模型——逻辑回归模型(Logistic Regression),在逻辑回归中,我们预测:
当hø大于等于0.5时,预测y=1当hø小于0.5时,预测y=0
根据上面的预测,我们绘制出一条S形函数,如下:
根据函数图像,我们知道,当
z=0时,g(z)=0.5 z>0时,g(z)>0.5 ...
分类:
其他好文 时间:
2016-04-29 17:58:50
阅读次数:
145
19.1 总结和致谢 欢迎来到《机器学习》课的最后一段视频。我们已经一起学习很长一段时间了。在最后视频中,我想快速地回顾一下这门课的主要内容,然后简单说几句想说的话。 作为这门课的结束时间,那么我们学到了些什么呢?在这门课中,我们花了大量的时间介绍了诸如线性回归、逻辑回归、神经网络、支持向量机等等一 ...
分类:
其他好文 时间:
2016-04-29 14:02:50
阅读次数:
118
我们已经大概学习了用线性回归(Linear Regression)来解决一些预测问题,详见:
1.《机器学习笔记01:线性回归(Linear Regression)和梯度下降(Gradient Decent)》
2.《机器学习笔记02:多元线性回归、梯度下降和Normal equation》
3.《机器学习笔记03:Normal equation及其与梯度下降的比较》
面对一些类似回归...
分类:
其他好文 时间:
2016-04-28 01:56:56
阅读次数:
510
Dataset
每年高中生和大学生都会申请进入到各种各样的高校和事业单位中去。每个学生都有一组独一无二的考试分数,成绩,和背景。录取委员会根据这个决定接受或拒绝这些申请者。在这种情况下一个二进制分类算法可用于接受或拒绝申请。逻辑回归是一个合适的方法,我们将在这个任务中解决这个问题数据集admissions.csv包含了1000个申请者的信息,特征如下: gre - Graduate Recor...
分类:
其他好文 时间:
2016-04-26 20:33:40
阅读次数:
569
判定边界(Decision Boundary)
上一次我们讨论了一个新的模型——逻辑回归模型(Logistic Regression),在逻辑回归中,我们预测:
当hø大于等于0.5时,预测y=1当hø小于0.5时,预测y=0
根据上面的预测,我们绘制出一条S形函数,如下:
根据函数图像,我们知道,当
z=0时,g(z)=0.5 z>0时,g(z)>0.5 ...
分类:
其他好文 时间:
2016-04-25 21:15:33
阅读次数:
601
形式:
采用sigmoid函数:g(z)=11+e?zg(z)=\frac{1}{1+e^{-z}}
其导数为g′(z)=(1?g(z))g(z)g^\prime(z)=(1-g(z))g(z)
假设:
即:
若有m个样本,则似然函数形式是:
对数形式:
采用梯度上升法求其最大值
求导:
更新规则为:
可以发现,则个规则形式上和LMS更新规则是一样...
分类:
编程语言 时间:
2016-04-22 19:32:34
阅读次数:
314
在讨论逻辑回归问题(Logistic Regression)之前,我们先讨论一些实际生活中的情况:判断一封电子邮件是否是垃圾邮件?判断一次交易是否是欺诈交易?判断一份文件是否是有效文件?这类问题,我们称之为分类问题(Classication Problem)。在分类问题中,我们往往尝试去预测的结果是否属于某一个类(正确活错误)。
我们从二元的分类问题开始讨论,即问题是正确或错误的。
我们将因变...
分类:
其他好文 时间:
2016-04-22 19:27:45
阅读次数:
118
逻辑回归是一个形式是Y=1/(1+E(-X))的函数,它的特点是: 1, 当X>0,随着X增大,Y很快的接近1; 2,当x<0,随着X的减小,Y很快的接近0; 3,当X=0时,Y=1/2。 由于逻辑回归的这种特性(在0-1之间连续),它被用来判断一个学习算法是否正确。 除了正确和不正确的结果之外,使... ...
分类:
其他好文 时间:
2016-04-21 01:28:32
阅读次数:
166
(一)生成学习算法 在线性回归和Logistic回归这种类型的学习算法中我们探讨的模型都是p(y|x;θ),即给定x的情况探讨y的条件概率分布。如二分类问题,不管是感知器算法还是逻辑回归算法,都是在解空间中寻找一条直线从而把两种类别的样例分开,对于新的样例,只要判断在直线的哪一侧即可;这种直接对问题 ...
分类:
编程语言 时间:
2016-04-21 01:15:01
阅读次数:
538