引言
在之前介绍的分类问题中，所涉及的分类的模型都是线性的，在非线性变换这一节中，我们将模型延伸到非线性的情况下来进行数据的分类。
二次假设(Quadratic Hypotheses)
我们看到上面的例子，在左图中，圆圈和红叉的数据无法用一条直线将其分成两类，那么这这个例子中，我们其实可以用一个大圆圈将数据分类，所以现在我们考虑假设，该假设hSEP(x)是一个过原点的...
分类：
其他好文 时间：
2015-02-01 23:22:39
阅读次数：
497
朴素贝叶斯分类 1.1、摘要 ?????? 贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。本文作为分类算法的第一篇，将首先介绍分类问题，对分类问题进行一个正式的定义。然...
分类：
其他好文 时间：
2015-01-28 19:56:09
阅读次数：
293
回归问题是根据一组特征(feature)，预测一个值，和分类问题不同，这个值是连续的，分类问题的预测值是离散的。 m：训练集的记录条数 x：训练集中的一条记录的输入变量部分，或者说特征值 y：训练集中的记录的输出...
分类：
其他好文 时间：
2015-01-28 13:13:19
阅读次数：
223
线性模型回顾
我们回顾一下之前的三种线性模型，它们的共同点是都要对输入的数据x做一个加权的分数s。
下图表示了这三种不同的线性模型的表示方式、误差函数和求解最小的Ein的方法。
这里可以看出，PLA算法这种线性分类模型，在求解Ein的时候是很困难的，相对而言，线性回归和logistic回归都有各自求解Ein的方法，那么我们能不能用这两种回归的计算方法来帮助...
分类：
其他好文 时间：
2015-01-13 21:34:53
阅读次数：
852
soft binary classification
Logistics回归模型要解决的是分类问题，在之前的二元分类问题中，我们将数据分成正例和负例，但是像PLA算法一样，用单位阶跃函数来处理的这种瞬间跳跃的过程有时很难处理。于是，我们希望能得到正例的概率值是多少。
logistic regression的假设
我们在PLA和线性回归算法中都用数据的加权来计算一个分数...
分类：
其他好文 时间：
2015-01-11 17:50:58
阅读次数：
6277
http://www.52ml.net/15539.html2014年05月25日? 字号小中大所谓学习问题，是指观察由n个样本组成的集合，并根据这些数据来预测未知数据的性质。学习任务（一个二分类问题）：区分一个普通的互联网检索Query是否具有某个垂直领域的意图。假设现在有一个O2O领域的垂直搜索...
分类：
其他好文 时间：
2015-01-07 20:39:12
阅读次数：
205
前言 在前面的文章中，讨论了一些分类算法。然后，有一点一直忽视了，就是非均衡的分类问题。 分均衡分类有两种情形 情形一：正例和反例数量相差非常大。 比如，分析信用卡信息集里面的正常样本和诈骗样本。正常样本固然比诈骗样本要多的多了。 情形二：分类正确/错误的代价不同。 比如...
分类：
其他好文 时间：
2015-01-02 23:38:14
阅读次数：
314
分类器分类器是一种计算机程序。他的设计目标是在通过学习后，可自动将数据分到已知类别。平面线性分类器一个简单的分类问题，如图有一些圆圈和一些正方形，如何找一条最优的直线将他们分开？我们可以找到很多种方法画出这条直线，但怎样的直线才是最优的呢？距离样本太近的直线不是最优的，因为这样的直线对噪声敏感度高，...
分类：
其他好文 时间：
2015-01-02 16:01:27
阅读次数：
2090
zaish上一节讲了线性回归中L2范数的应用，这里继续logistic回归L2范数的应用。 先说一下问题：有一堆二维数据点，这些点的标记有的是1，有的是0.我们的任务就是制作一个分界面区分出来这些点。如图（标记是1的样本用+表示，0的用红点表示）： 这其实是一个二分类问题，然后我们就想到了logis...
分类：
其他好文 时间：
2014-12-27 15:07:33
阅读次数：
293
引入
一个机器可以根据照片来辨别鲜花的品种吗？在机器学习角度，这其实是一个分类问题，即机器根据不同品种鲜花的数据进行学习，使其可以对未标记的测试图片数据进行分类。
这一小节，我们还是从scikit-learn出发，理解基本的分类原则，多动手实践。
Iris数据集
Iris flower数据集是1936年由Sir Ronald Fisher引入的经典多维数据集，可以作为判别分析（...
分类：
编程语言 时间：
2014-12-25 11:19:34
阅读次数：
402
