从线性回归到逻辑回归
在第2章，线性回归里面，我们介绍了一元线性回归，多元线性回归和多项式回归。这些模型都是广义线性回归模型的具体形式，广义线性回归是一种灵活的框架，比普通线性回归要求更少的假设。这一章，我们讨论广义线性回归模型的具体形式的另一种形式，逻辑回归（logistic regression）。
和前面讨论的模型不同，逻辑回归是用来做分类任务的。分类任务...
分类：
其他好文 时间：
2016-06-24 15:08:19
阅读次数：
479
KNN算法 一、KNN算法概述 KNN是Machine Learning领域一个简单又实用的算法，与之前讨论过的算法主要存在两点不同： 它是一种非参方法。即不必像线性回归、逻辑回归等算法一样有固定格式的模型，也不需要去拟合参数。 它既可用于分类，又可应用于回归。 KNN的基本思想有点类似“物以类聚， ...
分类：
编程语言 时间：
2016-06-21 10:32:30
阅读次数：
392
说明生成算法和判别算法之间的区别。判别算法主要包括：SVM，逻辑回归等；生成算法主要包括：朴素贝叶斯，HMM等...
分类：
其他好文 时间：
2016-06-21 07:09:53
阅读次数：
343
版权所有，可以转载，禁止修改。转载请注明作者以及原文链接。 一、KNN算法概述 KNN是Machine Learning领域一个简单又实用的算法，与之前讨论过的算法主要存在两点不同： 它是一种非参方法。即不必像线性回归、逻辑回归等算法一样有固定格式的模型，也不需要去拟合参数。 它既可用于分类，又可应 ...
分类：
编程语言 时间：
2016-06-20 18:53:13
阅读次数：
371
http://www.cnblogs.com/lafengdatascientist/p/5567038.html 逻辑回归模型预测股票涨跌 逻辑回归是一个分类器，其基本思想可以概括为：对于一个二分类（0~1）问题，若P(Y=1/X)>0.5则归为1类，若P(Y=1/X)<0.5，则归为0类。 一、 ...
分类：
其他好文 时间：
2016-06-18 06:47:22
阅读次数：
403
可以转载，禁止修改。转载请注明作者以及原文链接 注：本文是从贝叶斯分类器的角度来讨论判别分析，有关贝叶斯分类器的概念可参考文末延伸阅读第1-2篇文章。至于Fisher判别分析，未来会连同PCA一同讨论。 判别分析也是一种分类器，与逻辑回归相比，它具有以下优势： 当类别的区分度高的时候，逻辑回归的参数 ...
分类：
其他好文 时间：
2016-06-18 06:42:43
阅读次数：
610
在前一篇文章中，我们给出了感知器和逻辑回归的求解，还将SVM算法的求解推导到了最后一步，在这篇文章里面，我们将给出最后一步的求解。也就是我们接下来要介绍的序列最小最优化算法。 序列最小最优化算法（SMO）： 首先回顾一下。我们使用广义拉格朗日函数，将目标函数和限制条件写到一起，然后证明了原始问题能够 ...
分类：
编程语言 时间：
2016-06-13 17:12:10
阅读次数：
1361
英文原文请参考http://www.deeplearning.net/tutorial/logreg.html 这里，我们将使用Theano实现最基本的分类器：逻辑回归，以及学习数学表达式如何映射成Theano图。 逻辑回归是一个基于概率的线性分类器，W和b为参数。通过投射输入向量到一组超平面，每个 ...
分类：
其他好文 时间：
2016-06-12 16:51:14
阅读次数：
408
Logistic Function
逻辑回归的形式如下：
# -*- coding: utf-8 -*-
"""
Created on Mon Jun 06 10:38:45 2016
@author: zm
"""
import theano
import theano.tensor as Tx = T.dmatrix('x') # 声明变量
s = 1 / (1 + T.exp...
分类：
其他好文 时间：
2016-06-12 03:14:37
阅读次数：
485
这篇文章将介绍感知器、逻辑回归的求解和SVM的部分求解，包含部分的证明。本文章涉及的一些基础知识，已经在《梯度下降、牛顿法和拉格朗日对偶性》中指出，而这里要解决的问题，来自《从感知器到SVM》 、《从线性回归到逻辑回归》两篇文章。 感知器： 前面的文章已经讲到，感知器的目标函数如下： $min \ ...
分类：
其他好文 时间：
2016-06-10 11:04:59
阅读次数：
456
