"1 逻辑回归" 2 决策树 3 支持向量机 4 提升方法 5 聚类 准备在近期复习巩固一下基本机器学期算法的原理和实现，写一些笔记，方便以后自己回顾。 1 逻辑回归 (1） "理论推导" (2） python实现 ...
分类：
系统相关 时间：
2018-04-29 21:15:16
阅读次数：
234
前言： 这是一篇记录渣本学习机器学习过程的随笔。 正文： 支持向量机(SVM)是一组用于分类， 回归和异常值检测的监督学习方法。 在分类问题中，SVM就是要找到一个同时离各个类别尽可能远的决策边界即最大化margin（margin为图中2虚线的距离）。这种尽可能远的思想能够提高模型的泛化能力。 虚线 ...
分类：
其他好文 时间：
2018-04-29 14:36:54
阅读次数：
353
使用python3 学习sklearn中支持向量机api的使用 可以来到我的git下载源代码：https://github.com/linyi0604/kaggle ...
分类：
编程语言 时间：
2018-04-29 11:45:15
阅读次数：
246
容错能力越强越好 b为平面的偏正向，w为平面的法向量，x到平面的映射： 先求的是，距分界线距离最小的点；然后再求的是 什么样的w和b，使得这样的点，距离分界线的值最大。 放缩之后：; 又要取 其为min，即 取 yi*(w^T*Q(xi) + b) = 1 => ...
分类：
编程语言 时间：
2018-04-27 21:07:21
阅读次数：
159
转载作者：liangdas 引言： 1995年Cortes和Vapnik于首先提出了支持向量机(Support Vector Machine)，由于其能够适应小样本的分类，分类速度快等特点，性能不差于人工神经网络，所以在这之后，人们将SVM应用于各个领域。大量使用SVM模型的论文不断涌现，包括国内和 ...
分类：
其他好文 时间：
2018-04-27 18:04:14
阅读次数：
184
一、支持向量机（SVM） 支持向量机，是用于解决分类问题。为什么叫做支持向量机，后面的内容再做解释，这里先跳过。 在之前 "《逻辑回归》" 的文章中，我们讨论过，对于分类问题的解决，就是要找出一条能将数据划分开的边界。 对于不同的算法，其定义的边界可能是不同的，对于SVM算法，是如何定义其边界的？其 ...
分类：
其他好文 时间：
2018-04-13 16:17:30
阅读次数：
145
一、贝叶斯定理 机器学习所要实现的均是通过有限的训练样本尽可能的准确估计出后验概率，也就是所说的结果情况。大题分为判别式模型和生成式模型。 1. 判别式模型：直接通过建模P（结果|特征）的方式来预测结果，典型代表如决策树，BP神经网络、支持向量机等。 2. 生成式模型：先对联合概率分布P（特征，结果 ...
分类：
其他好文 时间：
2018-04-08 18:59:55
阅读次数：
1112
一、模型概念 支持向量机的模型基本模型是建立在特征空间上的最大间隔线性分类器，通过使用核技巧，可以使它成为非线性分类器。 当训练数据线性可分时，通过硬间隔最大化，学习一个线性分类器，即线性可分支持向量机；当训练数据近似线性可分时，通过软间隔最大化，学习一个线性分类器，即软间隔支持向量机；当训练数据线 ...
分类：
其他好文 时间：
2018-04-06 17:30:42
阅读次数：
125
