第2章 模型评估与选择 2.1 经验误差与过拟合 学习器在训练集上的误差称为“训练误差”或“经验误差”，在新样本上的误差称为“泛化误差”；过拟合一般是由于学习能力过于强大，以至于把训练样本所包含的不太一般的特性都学到了，而欠拟合则通常是由学习能力低下而造成的。欠拟合比较容易克服，例如在决策树学习中扩 ...
分类：
其他好文 时间：
2016-07-19 09:11:33
阅读次数：
622
One-Shot Learning with a Hierarchical Nonparametric Bayesian Model 该篇文章通过分层贝叶斯模型学习利用单一训练样本来学习完成分类任务，模型通过影响一个类别的均值和方差，可以将已经学到的类别信息用到新的类别当中。模型能够发现如何组合一组 ...
分类：
其他好文 时间：
2016-07-14 01:49:37
阅读次数：
267
前言： 本节主要是练习regularization项的使用原则。因为在机器学习的一些模型中，如果模型的参数太多，而训练样本又太少的话，这样训练出来的模型很容易产生过拟合现象。因此在模型的损失函数中，需要对模型的参数进行“惩罚”，这样的话这些参数就不会太大，而越小的参数说明模型越简单，越简单的模型则越... ...
分类：
其他好文 时间：
2016-07-04 11:47:41
阅读次数：
256
1.训练误差：学习器在训练集上的误差，也称“经验误差” 2.泛化误差：学习器在新样本上的误差 显然，我们的目标是得到在新样本上表现更好的学习器，即泛化误差要小 3.过拟合：学习器把训练样本学的太好了，导致泛化性能下降（学过头了。。。让我联想到有些人死读书，读死书，僵化，不懂得变通和举一反三） 原因： ...
分类：
其他好文 时间：
2016-06-30 12:32:55
阅读次数：
183
前言： SVM（支持向量机）一种训练分类器的学习方法 mnist 是一个手写字体图像数据库，训练样本有60000个，测试样本有10000个 LibSVM 一个常用的SVM框架 OpenCV3.0 中的ml包含了很多的ML框架接口，就试试了。 详细的OpenCV文档：http://docs.openc ...
分类：
其他好文 时间：
2016-06-29 08:51:09
阅读次数：
543
D:/face 构造face训练器为例 一：样本创建 训练样本分为正例样本和反例样本，其中正例样本是指待检目标样本，反例样本指其它任意图片。 负样本可以来自于任意的图片，但这些图片不能包含目标特征。负样本由背景描述文件来描述。背景描述文件是一个。 创建 正 负 样本目录 mkdir D:\face\ ...
分类：
其他好文 时间：
2016-06-25 12:24:45
阅读次数：
478
本文实现基于eigenface的人脸检测与识别。给定一个图像数据库，进行以下步骤： 进行人脸检测，将检测出的人脸存入数据库2 对数据库2进行人脸建模 在测试集上进行recognition 本篇实现第一步： 进行人脸检测，将检测出的人脸存入数据库2 进行人脸检测，将检测出的人脸存入数据库2 环境：vs ...
分类：
其他好文 时间：
2016-06-17 16:54:30
阅读次数：
183
（一）SVM的八股简介
支持向量机(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。
支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度，Accura...
分类：
其他好文 时间：
2016-06-12 03:17:33
阅读次数：
235
% 生成训练样本集 clear all; clc; P=[110 0.807 240 0.2 15 1 18 2 1.5; 110 2.865 240 0.1 15 2 12 1 2; 110 2.59 240 0.1 12 4 24 1 1.5; 220 0.6 240 0.3 12 3 18 2 ...
分类：
其他好文 时间：
2016-06-06 12:09:05
阅读次数：
305
1、朴素贝叶斯方法，首先要明确是用于分类任务。 在机器学习中，但凡遇到分类问题，所有的方法都关注两部分，即：待分类输入向量的特征和训练向量集中的每个类别的特征。 变量不过就是，特征数的多少，类别的多少，训练样本的多少。 朴素贝叶斯方法在处理这个问题时，采用的思路是概率化的，即每一个输入向量既可能属于 ...
分类：
其他好文 时间：
2016-06-04 20:46:01
阅读次数：
168
