VC维在有限的训练样本情况下，当样本数 n 固定时，此时学习机器的 VC 维越高学习机器的复杂性越高。VC 维反映了函数集的学习能力，VC 维越大则学习机器越复杂(容量越大)。
所谓的结构风险最小化就是在保证分类精度（经验风险）的同时，降低学习机器的 VC 维，可以使学习机器在整个样本集上的期望风险得到控制。
经验风险和实际风险之间的关系，注意引入这个原因是...
分类：
其他好文 时间：
2015-08-06 11:12:06
阅读次数：
165
将数据挖掘中这些评测指标的基本概念做一整理，忘了的时候还可以来查一查。
精确度，有时也叫正确率，是英文中的precision而不是accuracy。表示正确识别为此类的样本数目（TP）/识别为此类的样本总数目（TP+FP）。FP就是那些原本不是此类但被错误的分为此类的样本数目。
召回率，这个名称容易使人把它和召回缺陷产品的比率联想到一起，完全不是一码事。所以另外一种翻译的名称更...
分类：
其他好文 时间：
2015-07-05 19:58:55
阅读次数：
202
例子一：在数据库中往往有以下的统计操作，要统计某种类型的样本有多少个，并且找出大于500个样本的类型，以及拥有的样本数目。具体例子如，在SQL中，一个表的定义如下：CREATE TABLE t_account( account varchar(100), account_type T...
分类：
数据库 时间：
2015-04-24 18:09:58
阅读次数：
291
基本知识：算法标签：聚类、贪心、划分算法算法目标：使得簇尽可能紧凑和独立（低耦合，高聚合）评价准则：所有对象的误差平方和算法复杂度：O（nkt）,n是样本数目，k是簇数，t是迭代次数算法限制：簇的均值是有定义的（标称属性无法计算均值，此时可以改用k众数）算法缺点：k值需给定，初始点选择对算法有影响，...
分类：
其他好文 时间：
2015-04-17 09:38:08
阅读次数：
130
在svm中，训练是一个十分重要的步骤，下面我们来看看svm的train部分。在libsvm中的svm_train中分别有回归和分类两部分，我只对其中分类做介绍。分类的步骤如下：统计类别总数，同时记录类别的标号，统计每个类的样本数目将属于相同类的样本分组，连续存放计算权重C训练n(n-1)/2 个模型...
分类：
其他好文 时间：
2015-04-05 15:54:57
阅读次数：
316
在做svm的时候我们碰到了结构风险最小化的问题，结构风险等于经验风险+vc置信范围，其中的vc置信范围又跟样本的数量和模型的vc维有关，所以我们看一下什么是vc维
首先看一下vc维的定义：对一个指标函数集，如果存在H个样本能够被函数集中的函数按所有可能的2的H次方种形式分开，则称函数集能够把H个样本打散；函数集的VC维就是它能打散的最大样本数目H
例如有个样本，一个函数能够将这h个样本打散，打...
分类：
其他好文 时间：
2014-11-20 15:28:11
阅读次数：
167
课程简介：
本讲通过回顾上一讲内容，引出了VC维的定义，它是由统计学习理论定义的有关函数集学习性能的一个重要指标。并通过例子证明函数集的VC维就是它能打散的最大样本数目。课程最后介绍VC维的应用，指出它反映了函数集的学习能力，VC维越大则学习机器越复杂...
分类：
其他好文 时间：
2014-09-11 23:57:02
阅读次数：
573
