参考《机器学习实战》 利用Logistic回归进行分类的主要思想： 根据现有数据对分类边界线建立回归公式，以此进行分类。 分类借助的Sigmoid函数： Sigmoid函数图： Sigmoid函数的作用： 将所有特征都乘上一个回归系数，然后将所有结果值相加，将这个总和代入Sigmoid函数中，进而得...
分类：
其他好文 时间：
2014-07-02 17:30:24
阅读次数：
296
Logistic回归是一种非常高效的分类器。它不仅可以预测样本的类别，还可以计算出分类的概率信息。不妨设有$n$个训练样本$\{x_1, ..., x_n\}$，$x_i$是$d$维向量，其类别标签是$\{y_1, ..., y_n\}$。对于一个$c$类问题，$y_i \in \{1, 2, .....
分类：
其他好文 时间：
2014-06-21 16:04:13
阅读次数：
177
什么是回归？假设现在有些数据点，我用直线对这些点进行拟合（该线叫做最佳拟合直线），这个拟合的过程就叫做回归。Logistic回归？这里，Logistic回归进行分类的主要思想：根据现有数据对分类的边界线建立回归公式，以此边界线进行分类。这里的回归指的是最佳拟合，就是要找到边界线的回归公式的最佳拟合的...
分类：
其他好文 时间：
2014-06-17 12:52:30
阅读次数：
648
theano 实例， 逻辑回归（logistic regression)# -*-
coding: utf-8 -*-"""Created on Fri Jun 06 08:56:54 2014@author:
Administrator"""import theanoimport numpy as...
分类：
其他好文 时间：
2014-06-11 12:14:52
阅读次数：
922
今天来讨论多元函数求极值问题，由于在Logistic回归用牛顿迭代法求参数提到这个，所以很有必要把它研究清楚。
回想一下，一元函数求极值问题中我们是怎样做的？比如对于凹函数，先求一阶导数，得到，由
于极值处导数一定为零，但是导数等于零的点不一定就有极值，比如。所以我们还需要进一步判断，对函数
继续求二阶导得到，现在因为在驻点处二阶导数成立，所以在处取得
极小值，二阶导数在这里的意义就...
分类：
其他好文 时间：
2014-06-10 06:36:52
阅读次数：
254
Logistic回归主要用于医学中对流行病分析，或者对某种疾病的危险因素分析。通常用于二分类，也就是说因变量
只有两个，当然也可以用于多分类。
Logistic回归的理论内容上篇文章已经讲述过，在求解参数时可以用牛顿迭代，可以发现这种方法貌似
太复杂，今天我们介绍另一种方法，叫梯度下降。当然求最小值就是梯度下降，而求最大值相对就是梯度上升。
在Logistic回归中，由于，如果...
分类：
其他好文 时间：
2014-06-03 00:06:19
阅读次数：
353
1.梯度上升优化1).
伪代码：所有回归系数初始化为1-------------------weights = ones((colNum,1))重复r次：
计算整个数据集的梯度gradient 使用alpha*gradient更新回归系数的向量 返回回归系数weights2). 迭代r次的代码...
分类：
其他好文 时间：
2014-06-02 18:11:41
阅读次数：
271
logistic regression可以解决分类问题，即输出的结果只有0和1两种，比如，对于邮件的判断只有是或者否。这种分类问题使用传统的线性回归并不能很好的解决。
一个小例子
例如，当我们根据肿瘤的大小判断一个肿瘤是不是良性的时候，输出结果只有是或者否，用1和0表示，给定的样本点，并且我们使用传统的线性回归问题解决拟合的函数图像如下：
图像中我们可以根据拟合曲线，当输出值...
分类：
其他好文 时间：
2014-06-01 12:53:04
阅读次数：
167
回顾上次内容：http://blog.csdn.net/acdreamers/article/details/27365941
经过上次对Logistic回归理论的学习，我们已经推导出取对数后的似然函数为
现在我们的目的是求一个向量，使得最大。其中
对这个似然函数求偏导后得到...
分类：
其他好文 时间：
2014-06-01 04:34:43
阅读次数：
410
Logistic回归为概率型非线性回归模型，是研究二分类观察结果与一些影响因素之间关系的一种多变
量分析方法。通常的问题是，研究某些因素条件下某个结果是否发生，比如医学中根据病人的一些症状来判断它是否患
有某种病。
在讲解Logistic回归理论之前，我们先从LR分类器说起。LR分类器，即Logistic Regression Classifier。
在分类情形下，经过学习后的LR分...
分类：
其他好文 时间：
2014-05-31 17:59:42
阅读次数：
279
