隐藏层的提出是伴随着多级网络的概念一起提出的,它主要解决一个线性不可分问题.
分类：
其他好文 时间：
2015-05-15 19:42:27
阅读次数：
191
SVM内容繁多，打算用五篇文章来记述。SVM之形式化描述给出SVM的问题描述与基本模型；SVM之对偶问题将SVM求解转换为对偶问题的求解；SVM之核函数描述了SVM引人核函数进行特征向高维映射的过程；SVM之解决线性不可分描述了SVM对线性不可分数据的处理方法；另外，写在SVM之前——凸优化与对偶问...
分类：
其他好文 时间：
2015-03-21 09:42:25
阅读次数：
160
本节课要点：VC维：模型选择算法 特征选择vc维：个人还是不太理解。个人的感觉就是为核函数做理论依据，低维线性不可分时，映射到高维就可分，那么映射到多高呢？我把可分理解为“打散”。参考的资料：http://www.cnblogs.com/boostable/p/iage_VC_dimension.h...
分类：
其他好文 时间：
2015-03-11 19:07:30
阅读次数：
138
Stanford机器学习课程笔记——SVM
前面已经学习过SVM，写了几片博文，如下：
入门SVM：http://blog.csdn.net/puqutogether/article/details/39894835
SVM中的线性不可分情况：http://blog.csdn.net/puqutogether/article/details/41309745
SVM中的...
分类：
其他好文 时间：
2015-01-29 14:45:28
阅读次数：
215
SVM（支持向量机）算法是一种典型的监督式学习算法。介绍SVM算法的思想和应用。...
分类：
编程语言 时间：
2015-01-28 22:38:17
阅读次数：
188
前面两个系列分别讲诉了SVM的基本原理和代码实现，如何解决线性不可分情况。这一次我们讲解一下SVM的最后一篇：SVM解决多类分类问题。...
分类：
其他好文 时间：
2014-12-02 17:22:52
阅读次数：
244
生存？还是毁灭？——哈姆雷特可分？还是不可分？——支持向量机之前一直在讨论的线性分类器,器如其名（汗，这是什么说法啊），只能对线性可分的样本做处理。如果提供的样本线性不可分，结果很简单，线性分类器的求解程序会无限循环，永远也解不出来。这必然使得它的适用范围大大缩小，而它的很多优点我们实在不原意放弃，...
分类：
其他好文 时间：
2014-11-19 12:13:03
阅读次数：
273
八、核（kernel）
如果样本点为线性不可分，那么，需要将数据映射到高维空间，使在原始空间内其线性可分变为线性可分。如下图所示：
上文提到，分类器可以写成：
}+b" alt="">
那么，如果使用一种映射的方法，将低维数据映射到高维（），使得线性不可分变为线性可分。称为特征映射函数，这样，分类器就变为：
}+b" alt="">
(1)实例
低维映射到高维能否...
分类：
其他好文 时间：
2014-11-10 13:55:52
阅读次数：
421
核函数理论不是源于支持向量机的.它只是在线性不可分数据条件下实现支持向量方法的一种手段.这在数学中是个古老的命题. Mercer定理可以追溯到1909年，再生核希尔伯特空间(ReproducingKernel Hilbert Space, RKHS)研究是在20世纪40年代开始的。早在1964年Ai...
分类：
其他好文 时间：
2014-11-02 12:20:09
阅读次数：
277
一、核函数的引入
问题1：
SVM显然是线性分类器，但数据如果根本就线性不可分怎么办？
解决方案1：
数据在原始空间（称为输入空间）线性不可分，但是映射到高维空间（称为特征空间）后很可能就线性可分了。
问题2：
映射到高维空间同时带来一个问题：在高维空间上求解一个带约束的优化问题显然比在低维空间上计算量要大得多，这就是所谓的“维数灾难”。
解决方案2：
于是就引入了“核...
分类：
其他好文 时间：
2014-05-11 04:12:21
阅读次数：
443
