第6章 逻辑回归与最大熵模型逻辑回归(logistic regression)是统计学习中的经典分类方法。最大嫡是概率模型学习的一个准则将其推广到分类问题得到最大熵模型(maximum entropy model)。逻辑回归模型与最大熵模型都属于对数线性模型。6.1 逻辑回归模型定义6.1(逻辑分布...
分类：
其他好文 时间：
2015-08-26 23:55:55
阅读次数：
760
一、sigmoid()函数 就是logistic函数，matlab函数二、logistic分类不错，至少在这里，虽然有时对过程的细致问题感到似是而非三、小细节 A=[1，2，3; 4，5，6]; 要表示1-Aij时，可能想到写成： ones(size(A))-A; 但是，也可以写成：...
分类：
其他好文 时间：
2015-08-26 15:24:50
阅读次数：
108
5-Kernel Logistic RegressionLast class, we learnt about soft margin and its application. Now, a new idea comes to us, could weapply the kernel trick t...
分类：
系统相关 时间：
2015-08-26 13:33:48
阅读次数：
398
这个系列是为了应对找工作面试时面试官问的算法问题，所以只是也谢算法的简要介绍，后期会陆续补充关于此
算法的常见面问题。
一、Logistic回归
先说下logistic回归，它是根据现有数据对分类边界建立回归公式，以此进行分类。其计算代价不高，易于实现与理解，但是容易欠拟合、分类精度不太高；
logistic回归可以看成是一种概率估计，使用的的是sigmioid函数，...
分类：
编程语言 时间：
2015-08-26 12:04:29
阅读次数：
286
最近跟完了Andrew Ng的Machine Learning前三周的课，主要讲解了机器学习中的线性回归（Linear Regression）和逻辑回归（Logistic Regression）模型。在这里做一下记录。
另外推荐一本统计学习的书，《统计学习方法》李航，书短小精悍，才200多页，但是内容基本上覆盖了机器学习中的理论基础。笔记 主要了解一下监督学习和无监督学习机器学习：是关于计算...
分类：
其他好文 时间：
2015-08-25 16:42:29
阅读次数：
240
上节我们探讨了关于拉格朗日乘子和KKT条件，这为后面SVM求解奠定基础，本节希望通俗的细说一下原理部分。一个简单的二分类问题如下图：
我们希望找到一个决策面使得两类分开，这个决策面一般表示就是WTX+b=0W^TX+b=0,现在的问题是找到对应的W和b使得分割最好，知道logistic分类 机器学习之logistic回归与分类的可能知道，这里的问题和那里的一样，也是找权值。在那里，我们是根据每...
分类：
其他好文 时间：
2015-08-17 19:32:59
阅读次数：
315
实例
首先举个例子，假设我们有一个二手房交易记录的数据集，已知房屋面积、卧室数量和房屋的交易价格，如下表：
假如有一个房子要卖，我们希望通过上表中的数据估算这个房子的价格。这个问题就是典型的回归问题，这边文章主要讲回归中的线性回归问题。
线性回归（Linear Regression）
首先要明白什么是回归。回归的目的是通过几...
分类：
其他好文 时间：
2015-08-17 08:49:45
阅读次数：
296
http://scikit-learn.org/stable/auto_examples/plot_isotonic_regression.html#example-plot-isotonic-regression-py
代码就不贴了，参考上面链接。
给个简单的例子：
问题描述：给定一个无序数字序列y，通过修改每个元素的值得到一个非递减序列 y‘ ，问如何使y和 y’...
分类：
其他好文 时间：
2015-08-17 01:10:17
阅读次数：
174
IntroductionLinear and Logistic regressions are usually the first algorithms people learn in predictive modeling. Due to their popularity, a lot of an...
分类：
其他好文 时间：
2015-08-15 19:52:23
阅读次数：
248
7 Types of Regression Techniques you should know!IntroductionLinear and Logistic regressions are usually the first algorithms people learn in predicti...
分类：
其他好文 时间：
2015-08-14 21:08:32
阅读次数：
201
