下面是搜集资料时发现的几个与libsvm相关的网站,感觉挺有用的,有时间可以看看:
林智仁主页:http://www.csie.ntu.edu.tw/~cjlin/
更多关于libsvm的东西可参考前辈们整理的:(关于libsvm的那点破事) http://www.matlabsky.com/thread-10966-1-1.html
Libsvm 在VS中 http://dow...
分类:
其他好文 时间:
2015-04-29 10:06:27
阅读次数:
121
5.1之前完成Coursera 神经网络 和 支持向量机的编程项目Kaggle Titanic 用神经网络和VSM各做一次Logistic Regression补做完整ubuntu安装gcc,试编译c/c++/java/python,其中两项
分类:
其他好文 时间:
2015-04-27 21:42:33
阅读次数:
180
引言 支持向量机在很多地方都能遇到,主要是用于分类问题,而且简单粗暴,所以也很多人用,但对其深层次原理性的探讨至始至终看到过的资料中觉得林轩田老师讲的非常地到位,另外还有一个参考资料就是v_july_v写的SVM的三重境界,但july写的太多了,可能看起来比较吃力,所以挑选了这些文档以及课程中重要的...
分类:
其他好文 时间:
2015-04-27 18:07:27
阅读次数:
406
0.安装方法unix系统下的安装方法:到官网下载源包(目前最新版本为libsvm-3.20、liblinear-1.96),解压后,打开终端进入makefile所在的目录,键入make即可。以下为一些基本的使用命令,ubuntu系统下。1.生成符合要求的数据格式,以图像数据为例
从图像库得到csv文件 (csv文件里每一行存储一张图:label,feat1,feat2,…..),在终端下键入:pyt...
分类:
其他好文 时间:
2015-04-23 09:39:47
阅读次数:
243
将软间隔支持向量机看做正则化模型上一小节中我们介绍了软间隔支持向量机,该模型允许有错分类数据的存在,从而使模型对数据有更好的适应性,有效避免过拟合的问题。
现在我们回顾一下松弛变量ξn,我们用ξn来记录违反分类边界的数据到边界的距离。
我们可以从另外一个角度,考虑一下ξn的计算:
对于任何一个点,如果该点违反了边界,那么ξn记录了其到边界的距离;如果没有违反,ξn为0。
所以我们可以...
分类:
其他好文 时间:
2015-04-23 02:08:58
阅读次数:
250
引言在上一小节中,我们介绍了核支持向量机。于是,不管是简单的问题还是复杂的问题,我们都可以做得到。
然而,像高斯核的方法太复杂了,可能造成过拟合的问题。导致过拟合的现象的原因有可能是你选择特征转换太强大了,导致无法用最大间隔的方法控制模型的复杂度,还有一个原因是,如果坚持将所有的数据都做到正确分类,这样有可能将噪声也考虑到模型的构建之中,这样就会将噪声拟合进你的结果中去了。软间隔支持向量机第一步:...
分类:
其他好文 时间:
2015-04-23 02:07:07
阅读次数:
341
感知机
学习策略
具体实现
数据集最大最小规范化
训练过程
测试
最终结果感知机是二分类的线性分类模型,由Rosenblatt于1957年提出,是支持向量机和神经网络的基础。感知机将学习到一个线性划分的分离超平面,属于判别模型。感知机输入空间为RnR^n空间,nn是特征数目,输出空间y={+1,?1}y=\{+1,-1\}。感知机学习一个如下的符号函数:
f(x)=sign(wx+b)f(x) =...
分类:
其他好文 时间:
2015-04-23 02:06:00
阅读次数:
171
引言在上一小节中,我们介绍了SVM的对偶形式,该形式也可以使用二次规划的方式来求解。
这个对偶形式告诉我们SVM背后的一些集合意义,再者,有了这个对偶问题,我们要求解的难度和转换的高维空间的维度好像没有关系。
在这一小节中,我们就之前未解决的问题继续探讨,使用核技巧的方式高效求解SVM。核技巧(Kernel Trick)在上一小节二次规划问题中的Q矩阵的求解中,我们要计算Z空间的两个向量的内积,...
分类:
其他好文 时间:
2015-04-20 01:54:26
阅读次数:
190
引言在上一小节中,我们介绍,用二次规划的方法来求解支持向量机的问题。如果用非线性的特征转化的方式,可以在一个更复杂的Z空间里做二次规划。这种思想是希望通过最大间隔的方式来控制模型的复杂度,通过特征转换来实现复杂的边界。
但是这引入了新的问题:在进行特征转换之后,在新的高维空间中,求解二次规划问题就会变得很困难。甚至在无限大的维度上求解最佳化的问题就变得不可能了。
所以,这一小节,我们要解答的是,...
分类:
其他好文 时间:
2015-04-20 00:35:38
阅读次数:
117
原文:http://blog.csdn.net/arthur503/article/details/19974057在学SVM中的实验环节,老师介绍了libsvm的使用。当时看完之后感觉简单的说不出话来。1. libsvm介绍虽然原理要求很高的数学知识等,但是libsvm中,完全就是一个工具包,拿来...
分类:
其他好文 时间:
2015-04-15 22:48:42
阅读次数:
2132