逻辑回归（Logistic regression）
逻辑回归是统计学习中的经典分类方法。其多用在二分类{0,1}问题上。
定义1：
设X是连续随机变量，X服从逻辑回归分布是指X具有下列分布函数与密度函数：
分布函数属于逻辑斯谛函数，其图形是一条S形曲线。
定义2：
二项逻辑斯谛回归模型是如下条件概率分布：
从上式可以看出，逻辑回归对线性回归经行了归一化...
分类：
编程语言 时间：
2016-05-12 15:23:00
阅读次数：
346
本文主要是来练习多变量线性回归问题（3个变量）。那个时候用梯度下降法求解时，给出的学习率是固定的0.70.7。而本次实验中学习率需要自己来选择，因此我们应该从小到大（比如从0.0010.001到1010）来选择，通过观察损失值与迭代次数之间的函数曲线来决定使用哪个学习速率。当有了学习速率α\alpha后，则本问问题求解方法和上面的没差别。本文要解决的问题是给出了4747个训练样本，训练样本的yy值为...
分类：
其他好文 时间：
2016-05-12 15:07:55
阅读次数：
167
Classification and Representation 1. Classification
Linear Regression （线性回归）考虑的是连续值（[0,1]之间的数）的问题，而Logistic Regression（逻辑回归）考虑的是离散值（例如只能取0或1而不能取0到1之间的数）的问题。举个例子，你需要根据以往季度的电力数据，预测下一季度的电力数据，这个时候需要使用的是线...
分类：
其他好文 时间：
2016-05-12 14:58:29
阅读次数：
292
转自：http://www.cnblogs.com/BYRans/ 多分类问题 在一个多分类问题中，因变量y有k个取值，即。例如在邮件分类问题中，我们要把邮件分为垃圾邮件、个人邮件、工作邮件3类，目标值y是一个有3个取值的离散值。这是一个多分类问题，二分类模型在这里不太适用。 多分类问题符合多项分布 ...
分类：
其他好文 时间：
2016-05-11 13:22:42
阅读次数：
181
Logistic Regression and Newton's Method 作业链接：http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc=exercises/ex4/ex4.h ...
分类：
其他好文 时间：
2016-05-09 20:37:40
阅读次数：
330
多变量线性回归（Multivariate Linear Regression） 作业来自链接：http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc=exercises/ex3/ex3 ...
分类：
其他好文 时间：
2016-05-07 13:05:15
阅读次数：
157
所谓softmax regression 是在logistic regression基础上的升级版。
logistics是二分类，而softmax可以多分类。1 logistic regression学习softmax regression之前 我们先回归一下 logistic regression的相关知识。
（参见http://blog.csdn.net/bea_tree/article/d...
分类：
其他好文 时间：
2016-05-06 16:15:13
阅读次数：
129
Logistic regression cost function：...
分类：
其他好文 时间：
2016-05-06 16:12:29
阅读次数：
181
线性回归与正则化线性回归总述追根溯源，回归(Regression)这一概念最早由英国生物统计学家高尔顿和他的学生皮尔逊在研究父母亲和子女的身高遗传特性时提出。他们的研究揭示了关于身高的一个有趣的遗传特性：若父母个子高，其子代身高高于平均值的概率很大，但一般不会比父母更高。即身高到一定程度后会往平均身高方向发生“回归”。这种效应被称为“趋中回归(Regression Toward the Mean)”...
分类：
其他好文 时间：
2016-05-06 14:58:14
阅读次数：
1014
到现在，我们已经学过三种线性方法：linear classification、Linear Regression、logistic Regression。这三种方法的核心都是,不同点在于：最小化的error不同。linear classification的error是0/1 error；Linear... ...
分类：
其他好文 时间：
2016-05-06 10:39:02
阅读次数：
143
