神经网络在解决一些复杂的非线性分类问题时，相对于线性回归、逻辑回归，都被证明是一个更好的算法。其实神经网络也可以看做的逻辑回归的组合（叠加，级联等）。 一个典型神经网络的模型如下图所示： 上述模型由3个部分组成：输入层、隐藏层、输出层。其中输入层输入特征值，输出层的输出作为我们分类的依据。例如一个2...
分类：
其他好文 时间：
2015-11-05 12:04:41
阅读次数：
248
识别： 不是分类问题！！一方面，“类”很多，一“类”的数据特别少。显然用分类类解决出现问题。一个可能并且直观的想法是：KNN。但是，我们知道，KNN算法一般对于数据少的时候可以解决问题，数据量大了就会出现问题了。1）训练 于是，我们尝试从另一个角度突破。训练时，存在一个映射，我们希望输入两幅照片.....
分类：
其他好文 时间：
2015-10-19 20:40:56
阅读次数：
144
分类 问题1.什么是分类? 就是把一个类的功能,分出一部分来放在一个独立的文件中2.分类的语法是什么样的?@interface Person(SuperMan)3.分类与类是什么关系? 分类依赖类而存在,没有类也就没有分类4.分类有什么作用?用于把一个比较庞大的类,分割开来,具有相同功能的方法放.....
分类：
其他好文 时间：
2015-10-19 15:44:25
阅读次数：
134
1.引言 逻辑回归（LR）在分类问题中的应用十分广泛，它是一个基于概率的线性分类器，通过建立一个简单的输入层和输出层，即可实现对输入数据的有效分类。而该网络结构的主要参数只有两个，分别是权重和偏置，本文...
分类：
其他好文 时间：
2015-10-15 19:02:07
阅读次数：
219
1、简单例子引入 2、先验概率 3、后验概率 4、最小错误率决策 5、最小风险贝叶斯决策 1. 贝叶斯公式 2简单例子 正常情况下，我们可以快速的将街上的人分成男和女两类。这里街上的人就是我们观测到的样本，将每一个人分成男、女两类就是我们做决策的过程。上面的问题就是一个分类问题。 分类可以看作是一种...
分类：
其他好文 时间：
2015-09-28 23:39:39
阅读次数：
217
K最近邻算法是分类问题中经常使用的一种非参数方法。算法的思路清晰简洁：对于待分类的样本，找出与其最近的K个样本（即训练样本中的K个）。然后对这K个样本进行投票，待分样本与多数样本的类别一致。在该算法中有两个最主要的问题：1、最近怎么评价？2、到底K等于多少？对于第..
分类：
其他好文 时间：
2015-09-02 02:14:51
阅读次数：
171
第12章 统计学习方法总结1 适用问题分类问题是从实例的特征向量到类标记的预测问题；标注问题是从观测序列到标记序列(或状态序列)的预测问题。可以认为分类问题是标注问题的特殊情况。分类问题中可能的预测结果是二类或多类；而标注问题中可能的预测结果是所有的标记序列，其数目是指数级的。感知机、k近邻法、朴素...
分类：
其他好文 时间：
2015-08-28 21:07:06
阅读次数：
311
第8章提升方法提升(boosting)方法是一种常用的统计学习方法，应用广泛且有效。在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能。基本思想：对于分类问题而言，给定一个训练样本集，求比较粗糙的分类规则(弱分类器)要比求精确的分类规则(强分类器)容易...
分类：
其他好文 时间：
2015-08-28 19:41:26
阅读次数：
1528
第5章 决策树决策树(decision tree)是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类...
分类：
其他好文 时间：
2015-08-28 19:35:02
阅读次数：
1020
第6章 逻辑回归与最大熵模型逻辑回归(logistic regression)是统计学习中的经典分类方法。最大嫡是概率模型学习的一个准则将其推广到分类问题得到最大熵模型(maximum entropymodel)。逻辑回归模型与最大熵模型都属于对数线性模型。6.1 逻辑回归模型定义6.1(逻辑分布)...
分类：
其他好文 时间：
2015-08-28 19:15:16
阅读次数：
569
