Logistic回归虽然名字叫”回归” ，但却是一种分类学习方法。使用场景大概有两个：第一用来预测，第二寻找因变量的影响因素。逻辑回归(Logistic Regression, LR)又称为逻辑回归分析，是分类和预测算法中的一种。通过历史数据的表现对未来结果发生的概率进行预测。例如，我们可以将购买的 ...
分类：
编程语言 时间：
2016-12-02 03:12:29
阅读次数：
313
1、简介 回归是一种极易理解的模型，就相当于y=f(x)，表明自变量x与因变量y的关系。最简单的回归是线性回归，然而线性回归的鲁棒性很差，使回归模型在训练集上表现都很差。这主要是由于线性回归在整个实数域内敏感度一致，而分类范围，需要在[0,1]。逻辑回归就是一种减小预测范围，将预测值限定为[0,1] ...
分类：
其他好文 时间：
2016-12-01 13:45:17
阅读次数：
778
最大熵模型(maximum entropy model， MaxEnt)也是很典型的分类算法了，它和逻辑回归类似，都是属于对数线性分类模型。在损失函数优化的过程中，使用了和支持向量机类似的凸优化技术。而对熵的使用，让我们想起了决策树算法中的ID3和C4.5算法。理解了最大熵模型，对逻辑回归，支持向量 ...
分类：
其他好文 时间：
2016-11-23 22:23:15
阅读次数：
308
摘要逻辑回归是用在分类问题中，而分类为题有存在两个比较大的方向：分类的结果用数值表是，比如1和0(逻辑回归采用的是这种)，或者-1和1(svm采用的)，还有一种是以概率的形式来反应，通过概率来说明此样本要一个类的程度即概率。同时分类问题通过适用的场合可以分为：离散和连..
分类：
其他好文 时间：
2016-11-21 23:52:24
阅读次数：
382
Exercise 1：Linear Regression 实现一个线性回归 关于如何实现一个线性回归，请参考：http://www.cnblogs.com/hapjin/p/6079012.html Exercise 2：Logistic Regression 实现一个逻辑回归 问题描述：用逻辑回归 ...
分类：
其他好文 时间：
2016-11-18 23:09:50
阅读次数：
361
Learning Course: One variable logistic regression optimization 单变量（只有一个特征）的用于分类的逻辑回归的cost function的最小值求解, here: x=[x1;x2]; y={0,1}; theta=[theta(1);th ...
分类：
其他好文 时间：
2016-11-14 15:19:03
阅读次数：
248
首先，提出一个问题：如何构造非线性分类器？ 可以从线性回归到逻辑回归的变化过程中得到启发，逻辑回归本质上是增加了一个逻辑函数g(z)来映射输入x到{0,1}。 逻辑回归的计算过程可以简化为上图，圈表示一个计算节点，即激活函数（activation function）g(z)，这里取Sigmoid函数 ...
分类：
其他好文 时间：
2016-11-10 18:42:13
阅读次数：
256
逻辑回归是一个分类算法，它可以处理二元分类以及多元分类。虽然它名字里面有“回归”两个字，却不是一个回归算法。那为什么有“回归”这个误导性的词呢？个人认为，虽然逻辑回归是分类模型，但是它的原理里面却残留着回归模型的影子，本文对逻辑回归原理做一个总结。 1. 从线性回归到逻辑回归 我们知道，线性回归的模 ...
分类：
其他好文 时间：
2016-11-04 23:48:36
阅读次数：
233
整理一下之前所学过的关于回归问题的思路： 问题引入：房屋估价，给定新的房屋信息，预测出相应的房屋价格； 学习过程：构建模型h(θ)； 线性回归：最小二乘法、梯度下降法、线性模型的概率解释； 局部加权回归：带权重的线性回归、权值的钟形函数； 逻辑回归：分类方法、梯度上升法、牛顿法、引出感知机学习算法； ...
分类：
其他好文 时间：
2016-11-03 01:53:41
阅读次数：
463
from : http://blog.csdn.net/lsldd/article/details/41551797 在本系列文章中提到过用Python开始机器学习（3：数据拟合与广义线性回归）中提到过回归算法来进行数值预测。逻辑回归算法本质还是回归，只是其引入了逻辑函数来帮助其分类。实践发现，逻辑 ...
分类：
编程语言 时间：
2016-10-27 00:25:30
阅读次数：
380
