码迷,mamicode.com
首页 > 其他好文 > 详细

SVM核函数

时间:2019-11-06 23:02:12      阅读:92      评论:0      收藏:0      [点我收藏+]

标签:函数   svm   http   img   理想   没有   mic   src   kernel   

线性核函数:

 技术图片

多项式核函数:

 技术图片

径像基核函数/高斯核函数:

 技术图片

拉普拉斯核函数:

 技术图片

sigmod核函数:

 技术图片

吴恩达的见解:
1. 如果Feature的数量很大,跟样本数量差不多,这时候选用LR或者是Linear Kernel的SVM
2. 如果Feature的数量比较小,样本数量一般,不算大也不算小,选用SVM+Gaussian Kernel
3. 如果Feature的数量比较小,而样本数量很多,需要手工添加一些feature变成第一种情况

1)可以利用专家先验知识选择核函数,例如已经知道问题是线性可分的,就可以使用线性核,不必选用非线性核

2)利用交叉验证,试用不同的核函数,误差最小的即为效果最好的核函数

3)混合核函数方法,将不同的核函数结合起来

我觉得问题是线性可分和线性不可分其中之一,那在选择核函数的时候,如果不清楚问题属于哪一类,就两类核都尝试一下,所以可以主要尝试线性核以及RBF核。

1) Linear核:主要用于线性可分的情形。参数少,速度快,对于一般数据,分类效果已经很理想了。

2)RBF核:主要用于线性不可分的情形。参数多,分类结果非常依赖于参数。有很多人是通过训练数据的交叉验证来寻找合适的参数,不过这个过程比较耗时。

至于到底该采用哪种核,要根据具体问题,有的数据是线性可分的,有的不可分,需要多尝试不同核函数和不同参数。如果特征的提取的好,包含的信息量足够大,很多问题都是线性可分的。当然,如果有足够的时间去寻找RBF核参数,应该能达到更好的效果。

没有一种黄金规则可以确定哪种核函数将推导出最准确的SVM,在实践中,核函数的选择一般并不导致准确率的很大差别。

SVM核函数

标签:函数   svm   http   img   理想   没有   mic   src   kernel   

原文地址:https://www.cnblogs.com/zjuhaohaoxuexi/p/11808898.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!