在SVM中，我们的超平面参数最终只与间隔边界上的向量（样本）有关，故称为支持向量机。 求解最优超平面，即求最大化间隔，或最小化间隔的倒数：||w||2/2，约束条件为yi(wTxi+b)>=1 因为此函数为凸函数（拉格朗日乘子法的前提条件），可用拉格朗日乘子法转化为对偶问题，当满足KKT条件时，对偶 ...
分类：
其他好文 时间：
2019-10-02 13:12:30
阅读次数：
164
一、任务 这次我们将了解在机器学习中支持向量机的使用方法以及一些参数的调整。支持向量机的基本原理就是将低维不可分问题转换为高维可分问题，在前面的博客具体介绍过了，这里就不再介绍了。 首先导入相关标准库： 作为一个例子，首先我们随机生成一些数据，考虑分类任务的简单情况，其中两个类别的点是良好分隔的： ...
分类：
其他好文 时间：
2019-09-28 23:53:53
阅读次数：
229
1. sout = System.out.println(); 2. soutp = System.out.println(""); 3. soutv = System.out.println("变量名 = " + 变量); 4. soutm = System.out.println("当前类名.当 ...
分类：
其他好文 时间：
2019-09-22 17:53:52
阅读次数：
98
Cvxopt解决二次规划 标准二次规划形式: $\begin{equation}\begin{split}\min\quad&\frac{1}{2}\mathtt{x^TPx+q^Tx}\\s.t\quad&\mathtt{Gx\le h}\\&\mathtt{Ax}=0\end{split}\en ...
分类：
其他好文 时间：
2019-09-22 01:46:24
阅读次数：
73
1.什么是SVM 下面我们就来介绍一些SVM（Support Vector Machine），首先什么是SVM，它是做什么的？SVM，中文名是支撑向量机，既可以解决分类问题，也可以解决回归问题，我们来看看它的思想是怎么样的。 这是一个简单的分类问题，我们很容易想到可以找一个决策边界，那么在决策边界上 ...
分类：
其他好文 时间：
2019-09-15 12:54:01
阅读次数：
82
支持向量机原理 支持向量机要解决的问题其实就是寻求最优分类边界。且最大化支持向量间距，用直线或者平面，分隔分隔超平面。 基于核函数的升维变换 通过名为核函数的特征变换，增加新的特征，使得低维度空间中的线性不可分问题变为高维度空间中的线性可分问题。 线性核函数：linear，不通过核函数进行维度提升， ...
分类：
其他好文 时间：
2019-09-12 12:58:40
阅读次数：
75
支持向量机（SVM） 算法分类：监督算法，分类算法 1.SVM算法简介 SVM是分类算法中比较特殊的一种，它并不像LR算法那样使用到所有数据进行模型训练，SVM虽然也使用了全部数据，但是绝大部分数据只参与约束条件的限制，不参与最终模型参数的训练。SVM的目标是分类最大化分类间隔，何为最大化分类间隔， ...
分类：
其他好文 时间：
2019-09-11 09:19:47
阅读次数：
86
机器学习算法太多了，分类、回归、聚类、推荐、图像识别领域等等，要想找到一个合适算法真的不容易，所以在实际应用中，我们一般都是采用启发式学习方式来实验。通常最开始我们都会选择大家普遍认同的算法，诸如SVM，GBDT，Adaboost，现在深度学习很火热，神经网络也是一个不错的选择。 假如你在乎精度（a ...
分类：
编程语言 时间：
2019-09-08 09:33:58
阅读次数：
219
在第二章中我们学习到感知机模型的相关知识， 感知机模型是当数据线性可分时，如何利用一个超平面区分两类不同的数据。 对于以上情况，支持向量机和感知机是非常相似的，两者的差别在于 损失函数的不同 。当线性不可分的情况下，SVM可以用 核函数 来实现对线性不可分的数据进行分类。 思维导图 硬间隔最大化和软 ...
分类：
其他好文 时间：
2019-09-07 22:11:59
阅读次数：
114
经常用到sklearn中的SVC函数，这里把文档中的参数翻译了一些，以备不时之需。 本身这个函数也是基于libsvm实现的，所以在参数设置上有很多相似的地方。（PS: libsvm中的二次规划问题的解决算法是SMO）。sklearn.svm.SVC(C=1.0, kernel='rbf', degr ...
分类：
其他好文 时间：
2019-09-02 19:47:06
阅读次数：
160
