引言 本文从应用的角度出发，使用Libsvm函数库解决SVM模型的分类与回归问题 首先说明一下实验数据，实验数据是Libsvm自带的heart_sacle，是个mat文件 加载数据集 将mat文件导入MATLAB后会有270*13的实例矩阵变量heart_scale_inst和270*1的标签矩阵h...
分类：
其他好文 时间：
2015-05-07 23:43:09
阅读次数：
245
Host: CentOS release 6.4 (Final)1. 开启处理器的虚拟化功能进入BIOS，使能虚拟化功能；进入linux，grep -E "vmx|svm" /proc/cpuinfo查看是否有输出2. 安装rpm包yum install kvm python-virtinst li...
分类：
其他好文 时间：
2015-05-07 08:39:32
阅读次数：
157
最近读SVM，数学证明中用到了fisher一致性。 定义： 假设有一组统计数据X1,...,Xn,每个数据都满足一个累计分布FΘ,其中Θ是未知的。如果基于样本的对Θ的估计值可以表示为一个经验分布公式 如果估计值具有如下性质，则认为其具有Fisher一致性：
分类：
其他好文 时间：
2015-05-06 13:05:26
阅读次数：
193
SVM上：这个算法应该是机器学习这门课里最重要的部分了。 首先是SVM的思想：找到超平面，将两类中距离最近的点分的越开越好（直至二者相等）。 然后是函数间隔和几何间隔的定义，二者之间的区别。 接着是超平面模型的建立，看看它是如何将问题转化为凸优化问题的。 SVM第一个...
分类：
编程语言 时间：
2015-05-06 10:30:01
阅读次数：
167
SVM的标准形式是\begin{align*} \min_{\boldsymbol{w}} \ \ \ \frac{\lambda}{2} \|\boldsymbol{w}\|^2 + \frac{1}{M} \sum_{i=1}^M \max \{0, 1 - y_i (\boldsymbol.....
分类：
其他好文 时间：
2015-05-05 21:32:14
阅读次数：
150
之前学过svm相关知识，基本原理不算复杂，今天做了一个手写字识别程序，总算验证了svm的效果。
因为只是验证效果，实现上原则是简单,使用python + libsvm + PIL(python image library)。这部分工作花了一些时间:
PIL:
http://www.pythonware.com/products/pil/
下载源码包,解压之后运行:python setup....
分类：
其他好文 时间：
2015-05-03 12:04:11
阅读次数：
172
关键字(keywords)：SVM支持向量机 SMO算法 实现机器学习 假设对SVM原理不是非常懂的，能够先看一下入门的视频，对帮助理解非常实用的，然后再深入一点能够看看这几篇入门文章，作者写得挺具体，看完以后SVM的基础就了解得差点儿相同了，再然后买本《支持向量机导论》作者是Nello Crist...
分类：
编程语言 时间：
2015-04-30 14:04:47
阅读次数：
181
前言：如果学习分类算法，最好从线性的入手，线性分类器最简单的就是LDA，它可以看做是简化版的SVM，如果想理解SVM这种分类器，那理解LDA就是很有必要的了。 谈到LDA，就不得不谈谈PCA，PCA是一个和LDA非常相关的算法，从推导、求解、到算法最终的结果，都有着相当的相似。 本次的内容主要是以推...
分类：
其他好文 时间：
2015-04-29 16:52:02
阅读次数：
286
引言 对于SVM的大致原理之前已经讲过了，但是对于公式的推导，很多书都并未做要求，而且在实际应用过程中并未涉及过深，但鉴于台大机器学习课程中讲到了，自己为了巩固自己的学习，也梳理一遍SVM中公式的推导 此处考虑了C，也就是惩罚因子，不再是之前的hard-margin 推导过程 如果是soft-mar...
分类：
其他好文 时间：
2015-04-28 17:40:34
阅读次数：
271
