一、导入必要的工具包# 运行 xgboost安装包中的示例程序from xgboost import XGBClassifier # 加载LibSVM格式数据模块from sklearn.datasets import load_svmlight_filefrom sklearn.metrics i ...
分类：
其他好文 时间：
2019-07-09 00:06:51
阅读次数：
654
1. 场景描述 问题:如何对对下图的线性可分数据集和线性不可分数据集进行分类？ 思路: (1)对线性可分数据集找到最优分割超平面 (2)将线性不可分数据集通过某种方法转换为线性可分数据集 下面将带着这两个问题对支持向量机相关问题进行总结 2. 如何找到最优分割超平面 一般地，当训练数据集线性可分时， ...
分类：
其他好文 时间：
2019-06-30 09:35:02
阅读次数：
90
智能运维用到的技术 1.数据聚合/关联技术概念聚类算法AOI分类算法K近邻/贝叶斯分类器/logistic回归(LR)/支持向量机(SVM)/随机森林(RF) 2.数据异常点检测技术独立森林算法 3.故障诊断和分析策略关联规则挖掘(Apriori算法/FP-growth算法)(有)决策树算法(迭代二 ...
分类：
其他好文 时间：
2019-06-19 16:43:16
阅读次数：
137
最近在看清华大学数据挖掘导论，图个自己复习省事，把学的东西整理在这里，也希望本菜鸡的整理对一些童鞋有帮助吧。 分类问题： 定义：给定训练集：{（x1，y1），...，（xn，yn）}，生成将任何未知对象xi映射到其类标签yi的分类器（函数）。 图示： 其经典算法： 决策树 KNN 神经网络 支持向量 ...
分类：
其他好文 时间：
2019-06-08 15:00:20
阅读次数：
96
前段时间准备执业医、师兄师姐答辩拍照、找实习。博客又落下了。继续继续ing~ 紧接上一节SVM，来讲SMO，SMO为SVM最难啃的地方了吧，看到一大推公式。 我本着省去最繁琐的公式推导，给大家尽可能用人话讲清SMO的道理。 首先，上一节，我们得到最后的优化目标： $\underset{a}{min} ...
分类：
编程语言 时间：
2019-06-03 12:42:34
阅读次数：
226
支持向量机（support vector machine， 以下简称 svm）是机器学习里的重要方法，特别适用于中小型样本、非线性、高维的分类和回归问题。本系列力图展现 svm 的核心思想和完整推导过程，以飨读者。 一、原理概述 机器学习的一大任务就是分类（Classification）。如下图所示 ...
分类：
其他好文 时间：
2019-05-24 20:50:12
阅读次数：
109
十二、支持向量机(Support Vector Machines) 12.1 优化目标 参考视频: 12 1 Optimization Objective (15 min).mkv 到目前为止,你已经见过一系列不同的学习算法。在监督学习中，许多学习算法的性能都非常类似，因此，重要的不是你该选择使用学 ...
分类：
其他好文 时间：
2019-05-19 23:33:12
阅读次数：
244
上一节讲线性SVM时，文末提到在线性可分的情况下，找到一个支持向量，可求得b 但是当出现下图实例时，无法找到一条线将实例分为两类，所谓线性不可分问题。 针对这种情况SVM提出了软间隔（soft margin），相对于硬间隔来说，简单将线性SVM看做硬间隔。 回顾硬间隔时优化目标： min $\fra ...
分类：
其他好文 时间：
2019-05-11 23:06:23
阅读次数：
186
在感知机一节中说到，我们在线性可分的情况下，寻找一个超平面使得 一部分实例$\sum_{i=1}^{n}w _{i}\cdot x_{i}>0$, 另一部分实例$\sum_{i=1}^{n}w _{i}\cdot x_{i}<0$ 但是感知机的解不唯一，所以会出现这样的情况 我们应该如何选择一个最佳 ...
分类：
其他好文 时间：
2019-05-09 22:00:48
阅读次数：
113
支持向量机（Support Vector Machine, SVM）是一类按监督学习（supervised learning）方式对数据进行二元分类（binary classification）的广义线性分类器（generalized linear classifier），其决策边界是对学习样本求解 ...
分类：
其他好文 时间：
2019-05-01 18:47:27
阅读次数：
157
