regression与线性回归（linear regression） 线性回归（linear regression）： 有监督学习 => 学习样本为D={(xi,yi)}ª 输出/预测的结果yi为连续值变量 需要学习映射f：x～y 假定输入x和输出y之间有线性相关关系 损失函数(loss funct ...
分类：
其他好文 时间：
2017-03-22 20:59:56
阅读次数：
196
1 提升的概念 提升是机器学习技术，可以用于回归和分类问题，它每一步产生一个弱预测模型（如决策树），并加权累加到总模型中；如果每一步的弱预测模型生成都市一句损失函数的梯度方向，则称之为梯度提升（Gradient boosting). 梯度提升算法首先给定一个目标函数，它的定义域是所有可行的弱函数集合 ...
分类：
其他好文 时间：
2017-03-14 23:53:58
阅读次数：
239
C4.5是一系列用在机器学习和数据挖掘的分类问题中的算法。它的目标是监督学习：给定一个数据集，其中的每一个元组都能用一组属性值来描述，每一个元组属于一个互斥的类别中的某一类。C4.5的目标是通过学习，...
分类：
数据库 时间：
2017-02-21 11:54:20
阅读次数：
265
一、问题引入首先，Logistic回归是一种广义的线性回归模型，主要用于解决二分类问题。比如，现在我们有N个样本点，每个样本点有两维特征x1和x2，在直角坐标系中画出这N个样本的散点图如下图所示，
...
分类：
编程语言 时间：
2017-02-19 18:53:06
阅读次数：
373
1. 数据分析 1-1. 探索性数据分析 - 数据分析中的必要步骤 - 了解数据 - 作图 1-2. 统计推断 1-3. 回归分析 1-4. 机器学习-分类问题 1-5. 卡发数据产品 2. 分享平台 2-1. GitHub 2-2. RPubs ...
分类：
编程语言 时间：
2017-02-18 15:34:02
阅读次数：
157
提升方法(boosting)详解 提升方法（boosting）是一种常用的统计学习方法，应用广泛且有效。在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能。 本章首先介绍提升方法的思路和代表性的提升算法AdaBoost，然后通过训练误差分析探讨AdaB ...
分类：
其他好文 时间：
2017-02-15 00:44:41
阅读次数：
138
一、损失函数 深度学习中，常用的损失函数为均方误差和交叉熵，分别对应回归和分类问题，其实深度学习的损失函数和机器学习的损失函数差不多，是一致的，均方误差就相当于最小二乘，交叉熵其实是一种特殊的对数损失函数形式，这里不再赘述。 二、激活函数 是深度学习特有的。 关于激活函数，首先要搞清楚的问题是，激活 ...
分类：
其他好文 时间：
2017-02-09 17:21:01
阅读次数：
973
一直在研究怎么用caffe做行人检测相关的问题。大部分关于caffe的教程都是介绍如何用caffe解决分类问题，对于用caffe做回归或者检测相关问题的资料非常少。经过一段时间的摸索，发现可以通过制作...
分类：
其他好文 时间：
2017-02-07 11:10:33
阅读次数：
1836
1、课程内容 上节课中针对hypothesis set的分类问题，我们引入了成长函数，表示在数据集D上的hypothesis set可以分成种类的最大值，希望可以使用mH(N)来替代霍夫丁不等式中的M，如果mH(N)存在一个break point使得mH(N)的成长速度很慢是否一定可以使用mH(N) ...
分类：
其他好文 时间：
2017-01-30 11:39:53
阅读次数：
261
本文就将介绍一些新的衡量分类质量的参数，工具。基于这些，可以对分类代码进行优化，以得到更符合实际用途的分类器。 ...
分类：
其他好文 时间：
2017-01-19 10:23:11
阅读次数：
235
