1. PCA和LDA 百面机器学习,统计学习方法(第二版), "李政轩Linear Discriminant Analysis" 2. SVM 林轩田机器学习技法,统计学习方法(第二版) 3. Kernel Trick "李政轩" 4. Adaboost 林轩田机器学习技法,统计学习方法(第二版) ...
分类:
其他好文 时间:
2019-05-14 13:31:02
阅读次数:
108
上一节讲线性SVM时,文末提到在线性可分的情况下,找到一个支持向量,可求得b 但是当出现下图实例时,无法找到一条线将实例分为两类,所谓线性不可分问题。 针对这种情况SVM提出了软间隔(soft margin),相对于硬间隔来说,简单将线性SVM看做硬间隔。 回顾硬间隔时优化目标: min $\fra ...
分类:
其他好文 时间:
2019-05-11 23:06:23
阅读次数:
186
在感知机一节中说到,我们在线性可分的情况下,寻找一个超平面使得 一部分实例$\sum_{i=1}^{n}w _{i}\cdot x_{i}>0$, 另一部分实例$\sum_{i=1}^{n}w _{i}\cdot x_{i}<0$ 但是感知机的解不唯一,所以会出现这样的情况 我们应该如何选择一个最佳 ...
分类:
其他好文 时间:
2019-05-09 22:00:48
阅读次数:
113
原文地址:https://www.jianshu.com/p/6bf801bdc644 特征变换 问题描述 程序实现 运行结果 Soft Margin SVM 问题描述 程序实现 运行结果 ...
分类:
其他好文 时间:
2019-05-02 17:04:45
阅读次数:
129
import numpy as np import matplotlib.pyplot as plt from sklearn.svm import SVC from sklearn.datasets import load_iris from sklearn.preprocessing impor... ...
分类:
编程语言 时间:
2019-05-02 15:56:29
阅读次数:
203
支持向量机(Support Vector Machine, SVM)是一类按监督学习(supervised learning)方式对数据进行二元分类(binary classification)的广义线性分类器(generalized linear classifier),其决策边界是对学习样本求解 ...
分类:
其他好文 时间:
2019-05-01 18:47:27
阅读次数:
157
import numpy as np import matplotlib.pyplot as plt from sklearn import datasets, linear_model,svm from sklearn.model_selection import train_test_split... ...
分类:
编程语言 时间:
2019-05-01 11:55:09
阅读次数:
123
import numpy as np import matplotlib.pyplot as plt from sklearn import datasets, linear_model,svm from sklearn.model_selection import train_test_split... ...
分类:
编程语言 时间:
2019-05-01 10:34:34
阅读次数:
175
什么是kernel Kernel的其实就是将向量feature转换与点积运算合并后的运算,如下, 概念上很简单,但是并不是所有的feature转换函数都有kernel的特性。 常见kernel 常见kernel有多项式,高斯和线性,各有利弊。 kernel SVM 在非线性的SVM算法中,如何将一组 ...
分类:
编程语言 时间:
2019-04-26 00:25:15
阅读次数:
215
SVM,中文名叫支持向量机。 在深度学习出现以前,它是数据挖掘的宠儿; SVM具有十分完整的数据理论证明,但同时理论也相当复杂。 初识SVM 同其他分类算法一样,SVM分类也是寻找合适的决策边界,为方便理解,以二分类为例。 假设存在二分类样本,我们一定可以找到一个超平面将类别分开,但是通常会存在很多 ...
分类:
其他好文 时间:
2019-04-23 12:39:11
阅读次数:
143