前言在机器学习中，分类问题占了很大一部分，而对于分类问题的处理有很多方法，比如决策树、随机森林、朴素贝叶斯、前馈神经网络等等；而最为常见的分类需求一般是二分类问题，即将样本分为两个集合，然后通过学习某些参数，对新的输入进行识别并划分到正确的类别中。在解决分..
分类：
其他好文 时间：
2017-11-06 22:57:44
阅读次数：
405
参考了http://blog.sina.com.cn/s/blog_bceeae150102v11v.html#post % 感知机学习算法的原始形式，算法2.1参考李航《统计学习方法》书中第二章的算法P29 close allclear allclcX=[3,3;4,3;1,1];Y=[1,1,- ...
分类：
编程语言 时间：
2017-11-05 13:10:56
阅读次数：
197
一：引言在前面我们谈论到的算法都是在给定x的情况下直接对p(y|x;Θ)进行建模。例如，逻辑回归利用hθ(x) = g(θTx)对p(y|x;Θ)建模。现在考虑这样一个分类问题，我们想根据一些特征来区别动物是大象(y=1)还是狗(y=0)。给定了这样一个训练集，逻辑回归或感知机算法要做的就是去找到一... ...
分类：
编程语言 时间：
2017-10-31 20:41:32
阅读次数：
207
支持向量机是一种二分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使他有别于感知机；支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化。可形式化为一个求解凸二次规划的问题。当训练数据线性可分时..
分类：
编程语言 时间：
2017-10-19 12:56:24
阅读次数：
159
当N大于等于2，k大于等于3时， 易得：mH(N)被Nk-1给bound住。 VC维：最小断点值-1/H能shatter的最大k值。 这里的k指的是存在k个输入能被H给shatter，不是任意k个输入都能被H给shatter。 如：2维感知机能shatter平面上呈三角形排列的3个样本点，却shat ...
分类：
其他好文 时间：
2017-10-07 20:52:41
阅读次数：
192
支持向量机 支持向量机（support vector machines，SVMs）是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机；支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规 ...
分类：
系统相关 时间：
2017-09-17 20:58:45
阅读次数：
318
感知机算法： 1、首先找到点，使得sign(wt * xt) != yt， 那么如果yt = 1，说明wt和xt呈负角度，wt+1 = wt + xt能令wt偏向正角度。 如果yt = -1, 说明xt和wt呈正角度，wt+1 = wt - xt 能令wt偏向负角度。 总之，参数更新为wt+1 = ...
分类：
其他好文 时间：
2017-09-08 01:14:24
阅读次数：
198
一.感知机概述 感知机适用于：线性可分的数据，用于二分类 目的：找到分离超平面，完全分离不同的类 感知机公式：，一元多维的函数 感知机学习策略：通过求min(所有误分类点到超平面距离)，即损失函数，来确定权重和偏置 求解方法：梯度下降法 求解步骤：1.初始化权重和偏置 2.任选点（x,y） 3.若y ...
分类：
其他好文 时间：
2017-09-05 10:04:50
阅读次数：
153
今天去新宿舍打扫了一天，一切都是新的。立秋了，天气也凉爽起来，让人可以静下心来，不再那么浮躁。如果用心生活，时间是会慢下来的。你会享受多出N倍的人生。浮光掠影，追求效率，牺牲的是本该属于自己的趣味盎然的过程。自从脱离大公司的束缚，不再有周末和下班的概念。然而工作成了一种打怪升级的冒险历程，有点类似游 ...
分类：
其他好文 时间：
2017-08-20 22:34:16
阅读次数：
242
