决策树 (decision tree) 是一种常用的有监督算法。 决策树算法有很多类型，其中最大的差别就是最优特征选择的方法不同。最优特征指的是，在每个结点处，如何选择最好的特征（属性）对样本进行分类，这里最佳的意义即经过这步划分，能使分类精度最好，直到这棵树能准确分类所有训练样本。 通常特征选择的 ...
分类：
编程语言 时间：
2019-11-07 19:39:05
阅读次数：
95
K近邻 (K-nearest neighbor, KNN) 算法直接作用于带标记的样本，属于有监督的算法。 ...
分类：
编程语言 时间：
2019-11-07 19:04:30
阅读次数：
86
没有监督标签，只有x特征值，没有y，没有办法去预测，没有办法证明你做的对错，这样的数据集，我们能做的是什么呢？就是非监督机器学习。常见的算法就是聚类或者降维。聚类做的是什么？就是挖掘数据集中的规律的存在，通过把相似的数据归类，帮助我们探索数据集里的样本如何划分，比如可以将用户分群，不同的营销策略。聚 ...
分类：
其他好文 时间：
2019-11-04 14:00:48
阅读次数：
171
利用这个算法，学习一些机器学习中的基本概念。常用的是有监督学习和无监督学习。 ...
分类：
编程语言 时间：
2019-10-28 12:15:24
阅读次数：
68
特征工程预处理0.异常检测为什么不全部使用普通有监督的方法来学习呢（即把它看做是一个普通的二分类问题）？主要是因为在异常检测中，异常的样本数量非常少而正常样本数量非常多，因此不足以学习到好的异常行为模型的参数，因为后面新来的异常样本可能完全是与训练样本中的模式不同。可采用对每列特征分别用高斯分布去拟... ...
分类：
其他好文 时间：
2019-10-09 17:32:40
阅读次数：
82
机器学习简介： 特征向量 目标函数 机器学习分类： 有监督学习：分类问题（如人脸识别、字符识别、语音识别）、回归问题 无监督学习：聚类问题、数据降维 强化学习：根据当前状态预测下一个状态，回报最大化，回报具有延迟性，如无人驾驶、下围棋 深度学习数学知识：微积分、线性代数、概率论、最优化方法 一元函数 ...
分类：
其他好文 时间：
2019-10-03 12:58:27
阅读次数：
120
Sklearn RandomForest算法（有监督学习），可以根据输入数据，选择最佳特征组合，减少特征冗余； 原理：由于随机决策树生成过程采用的Boostrap，所以在一棵树的生成过程并不会使用所有的样本，未使用的样本就叫（Out_of_bag）袋外样本，通过袋外样本，可以评估这个树的准确度，其他 ...
分类：
编程语言 时间：
2019-09-30 23:18:00
阅读次数：
204
2019年9月22日13:52:59 2019年9月22日14:40:25 给定由一批输入输出数据对$\left(x^{(i)}, y^{(i)}\right) $ 组成的训练数据集，有监督学习的目标是学到一个较好的从输入$x^{(i)} $ 到输出$y^{(i)} $ 的映射。用来预测一个新的输入 ...
分类：
其他好文 时间：
2019-09-22 19:33:42
阅读次数：
96
文本挖掘 1. 文本挖掘 1.1. 什么是文本挖掘 文本挖掘指的是从文本数据中获取有价值的信息和知识，它是数据挖掘中的一种方法。文本挖掘中最重要最基本的应用是实现文本的分类和聚类，前者是有监督的挖掘算法，后者是无监督的挖掘算法。 文本挖掘是一个多学科混杂的领域，涵盖了多种技术，包括数据挖掘技术、信息 ...
分类：
其他好文 时间：
2019-09-21 14:34:04
阅读次数：
107
贝叶斯决策 首先来看贝叶斯分类，我们都知道经典的贝叶斯公式： 其中：p(w)：为先验概率，表示每种类别分布的概率；：类条件概率，表示在某种类别前提下，某事发生的概率；而为后验概率，表示某事发生了，并且它属于某一类别的概率，有了这个后验概率，我们就可以对样本进行分类。后验概率越大，说明某事物属于这个类 ...
分类：
其他好文 时间：
2019-09-11 14:06:30
阅读次数：
104
