在支持向量机(以下简称SVM)的核函数中，高斯核(以下简称RBF)是最常用的，从理论上讲， RBF一定不比线性核函数差，但是在实际应用中，却面临着几个重要的超参数的调优问题。如果调的不好，可能比线性核函数还要差。所以我们实际应用中，能用线性核函数得到较好效果的都会选择线性核函数。如果线性核不好，我们... ...
分类：
其他好文 时间：
2019-07-19 18:47:58
阅读次数：
124
支持向量机原理(一) 线性支持向量机 支持向量机原理(二) 线性支持向量机的软间隔最大化模型 支持向量机原理(三)线性不可分支持向量机与核函数 支持向量机原理(四)SMO算法原理 支持向量机原理(五)线性支持回归 在前面两篇我们讲到了线性可分SVM的硬间隔最大化和软间隔最大化的算法，它们对线性可分的... ...
分类：
其他好文 时间：
2019-07-19 18:41:54
阅读次数：
114
最大熵模型(maximum entropy model， MaxEnt)也是很典型的分类算法了，它和逻辑回归类似，都是属于对数线性分类模型。在损失函数优化的过程中，使用了和支持向量机类似的凸优化技术。而对熵的使用，让我们想起了决策树算法中的ID3和C4.5算法。理解了最大熵模型，对逻辑回归，支持向量... ...
分类：
其他好文 时间：
2019-07-19 18:26:51
阅读次数：
102
''' 支持向量机： 支持向量机原理： 分类原则：寻求最优分类边界 1.正确：对大部分样本可以正确地划分类别。 2.泛化：最大化支持向量间距。 3.公平：与支持向量等距。 4.简单：线性，直线或平面，分割超平面。 ... ...
分类：
其他好文 时间：
2019-07-17 09:24:53
阅读次数：
84
机器学习模型的参数和超参数 参数 ：模型参数，可以用数据进行估计，是模型内部的配置变量，通常使用优化算法估计模型参数，优化算法是对参数的可能值进行的一种有效搜索。例如人造神经网络中的权重、支持向量机中的支持向量、 线性回归或逻辑回归中的系数 超参数 ：必须手动设置，是模型外部的配置变量，模型超参数常 ...
分类：
编程语言 时间：
2019-07-10 22:54:07
阅读次数：
140
1. 场景描述 问题:如何对对下图的线性可分数据集和线性不可分数据集进行分类？ 思路: (1)对线性可分数据集找到最优分割超平面 (2)将线性不可分数据集通过某种方法转换为线性可分数据集 下面将带着这两个问题对支持向量机相关问题进行总结 2. 如何找到最优分割超平面 一般地，当训练数据集线性可分时， ...
分类：
其他好文 时间：
2019-06-30 09:35:02
阅读次数：
90
智能运维用到的技术 1.数据聚合/关联技术概念聚类算法AOI分类算法K近邻/贝叶斯分类器/logistic回归(LR)/支持向量机(SVM)/随机森林(RF) 2.数据异常点检测技术独立森林算法 3.故障诊断和分析策略关联规则挖掘(Apriori算法/FP-growth算法)(有)决策树算法(迭代二 ...
分类：
其他好文 时间：
2019-06-19 16:43:16
阅读次数：
137
最近在看清华大学数据挖掘导论，图个自己复习省事，把学的东西整理在这里，也希望本菜鸡的整理对一些童鞋有帮助吧。 分类问题： 定义：给定训练集：{（x1，y1），...，（xn，yn）}，生成将任何未知对象xi映射到其类标签yi的分类器（函数）。 图示： 其经典算法： 决策树 KNN 神经网络 支持向量 ...
分类：
其他好文 时间：
2019-06-08 15:00:20
阅读次数：
96
前段时间准备执业医、师兄师姐答辩拍照、找实习。博客又落下了。继续继续ing~ 紧接上一节SVM，来讲SMO，SMO为SVM最难啃的地方了吧，看到一大推公式。 我本着省去最繁琐的公式推导，给大家尽可能用人话讲清SMO的道理。 首先，上一节，我们得到最后的优化目标： $\underset{a}{min} ...
分类：
编程语言 时间：
2019-06-03 12:42:34
阅读次数：
226
支持向量机（support vector machine， 以下简称 svm）是机器学习里的重要方法，特别适用于中小型样本、非线性、高维的分类和回归问题。本系列力图展现 svm 的核心思想和完整推导过程，以飨读者。 一、原理概述 机器学习的一大任务就是分类（Classification）。如下图所示 ...
分类：
其他好文 时间：
2019-05-24 20:50:12
阅读次数：
109
