问题 假设空间的样本复杂度（sample complexity）：随着问题规模的增长导致所需训练样本的增长称为sample complexity。 实际情况中，最有可能限制学习器成功的因素是训练数据的有限性。 在使用学习器的过程中，我们希望得到与训练数据拟合程度高的假设（hypothesis）。（在 ...
分类：
其他好文 时间：
2016-12-10 18:54:09
阅读次数：
134
一、间隔与支持向量 给定训练样本集D={(x1,y1),(x2,y2),...,(xm,ym)},yi∈{-1,+1}，分类学习最基本的想法就是基于训练集D在样本空间中找到一个划分超平面，将不同类别的样本分开。在众多划分超平面之间，我们需要找出一个泛化能力最强的。直观上看，我们应该找位于两类训练样本 ...
分类：
其他好文 时间：
2016-12-09 08:22:25
阅读次数：
317
1.决策树 骤如下： （1）：假设T为训练样本集。 （2）：从属性集合Attributes中选择一个最能区别T中样本的属性。 （3）：创建一个树节点，它的值为所选择的属性。创建此节点的子节点，每个子链代表所选属性的一个唯一值（唯一区间），使用子链的值进一步将样本细分为子类。 对于每一个分支继续重复（ ...
分类：
编程语言 时间：
2016-12-05 23:27:08
阅读次数：
338
对于高斯混合模型是干什么的呢？它解决什么样的问题呢？它常用在非监督学习中，意思就是我们的训练样本集合只有数据，没有标签。 它用来解决这样的问题：我们有一堆的训练样本，这些样本可以一共分为K类，用z(i)表示。，但是具体样本属于哪类我们并不知道，现在我们需要建立一个模型来描述这个训练样本的分布。这时，... ...
分类：
编程语言 时间：
2016-12-05 02:02:34
阅读次数：
577
K－means算法很简单，它属于无监督学习算法中的聚类算法中的一种方法吧，利用欧式距离进行聚合啦。 解决的问题如图所示哈：有一堆没有标签的训练样本，并且它们可以潜在地分为K类，我们怎么把它们划分呢？ 那我们就用K－means算法进行划分吧。 算法很简单，这么做就可以啦： 第一步：随机初始化每种类别的... ...
分类：
编程语言 时间：
2016-12-05 01:42:38
阅读次数：
1517
一、定义： 有n个训练样本Zn={zi(xi,yi), i=1,2,...,n},定义N(Zn)为函数集中的函数能对样本分类的数目。 解释：xi 代表特征向量如d维特征向量，yi代表一个标记如0或1, 因此zi就是对一个特征的标记，Zn中有n个样本，可能的标记方式2n种，一种标记方式就生成一种样本集 ...
分类：
其他好文 时间：
2016-11-29 21:52:20
阅读次数：
895
$k$-近邻算法（kNN）的工作原理：存在一个训练样本集，样本集中的每个数据都存在标签，即我们知道样本集中每一数据与所属分类的对于关系。输入没有标签的新数据后，将新数据的每一个特征与样本集中数据对应的特征进行比较，然后算法提取样本集中特征最相似数据（最近邻）的分类标签。一般来说，我们只选择样本数据集 ...
分类：
其他好文 时间：
2016-11-28 07:40:29
阅读次数：
305
最近邻法和k-近邻法 下面图片中只有三种豆，有三个豆是未知的种类，如何判定他们的种类？ 提供一种思路，即：未知的豆离哪种豆最近就认为未知豆和该豆是同一种类。由此，我们引出最近邻算法的定义：为了判定未知样本的类别，以全部训练样本作为代表点，计算未知样本与所有训练样本的距离，并以最近邻者的类别作为决策未 ...
分类：
编程语言 时间：
2016-11-26 02:08:52
阅读次数：
567
今天撇去不同目标追踪算法的框架，比如KCF、TLD、Mean Shift等，忽略它们繁琐的公式，看了对目标检测的基本理解。这里做一个简单的总结，目标检测的框架一般是下图这样的： 目标检测分为以下几个步骤： 1、 训练分类器所需样本的创建 训练样本一般包括正样本和负样本，正样本是指第一帧图中框定的待检 ...
分类：
其他好文 时间：
2016-11-21 23:31:11
阅读次数：
393
机器学习的常用方法，主要分为有监督学习(supervised learning)和无监督学习(unsupervised learning)。监督学习，就是人们常说的分类，通过已有的训练样本（即已知数据以及其对应的输出）去训练得到一个最优模型（这个模型属于某个函数的集合，最优则表示在某个评价准则下是最 ...
分类：
其他好文 时间：
2016-11-13 16:40:05
阅读次数：
188
