Machine Learning：Neural Network---Representation
Non-Linear Classification
如果还采取简单的线性分类手段，那么会面临着过拟合以及效率低下的问题(如图所示)，然而neural network则可以很好的解决非线性分类问题。
Model representation
第一层称为input la...
分类：
Web程序 时间：
2014-11-18 00:30:10
阅读次数：
290
感知机（Perceptron）是二类分类的线性分类模型。感知机以一个实数值向量作为输入，计算这些输入的线性组合，如果结果大于某个阈值就输出+1，否则输出-1。下面就从模型，策略和算法三方面来说说这个模型，最后会推导一下算法的收敛性。模型感知机模型为：$\Large h(\mathbf{x}) = \...
分类：
其他好文 时间：
2014-11-11 20:31:58
阅读次数：
176
机器学习算法 原理、实践与实战 —— 感知机感知机（perceptron）是二分类的线性分类模型，输入为特征向量，输出为实例的类别，取值+1和-1。感知机学习旨在求出将训练数据进行线性划分的分离超平面，为此，引入了基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型。1. 感知机...
分类：
其他好文 时间：
2014-11-03 14:26:40
阅读次数：
270
SVM
1、支持向量机发展历史
1963年，Vapnik在解决模式识别问题时提出了支持向量方法。起决定性作用的样本为支持向量
1971年，Kimeldorf构造基于支持向量构建核空间的方法
1995年，Vapnik等人正式提出统计学习理论。
通俗来讲，SVM是一种二类分类模型，其基本模型定义为特征空间上的间隔最大的线性分类器，即支持向量机的学习策略便是间隔最大化，...
分类：
其他好文 时间：
2014-10-31 10:09:13
阅读次数：
403
一、线性分类器：首先给出一个非常非常简单的分类问题（线性可分），我们要用一条直线，将下图中黑色的点和白色的点分开，很显然，图上的这条直线就是我们要求的直线之一（可以有无数条这样的直线） 假如说，我们令黑色的点 = -1， 白色的点 = +1，直线f(x) = w.x + b，这儿的x、w是向量，其实...
分类：
其他好文 时间：
2014-10-24 18:26:50
阅读次数：
265
课程简介：
主要内容包括对线性分类及线性回归分析的简单回顾，以及对逻辑回归分析，误差测定与算法三方面的详细讲解，同时对非线性变换的泛化方法进行了剖析....
分类：
其他好文 时间：
2014-10-08 00:16:14
阅读次数：
365
上回说到对于文本分类这样的不适定问题（有一个以上解的问题称为不适定问题），需要有一个指标来衡量解决方案（即我们通过训练建立的分类模型）的好坏，而分类间隔是一个比较好的指标。在进行文本分类的时候，我们可以让计算机这样来看待我们提供给它的训练样本，每一个样本由..
分类：
其他好文 时间：
2014-10-01 01:07:21
阅读次数：
535
线性分类器(一定意义上,也可以叫做感知机)是最简单也很有效的分类器形式.在一个线性分类器中,可以看到SVM形成的思路,并接触很多SVM的核心概念.用一个二维空间里仅有两类样本的分类问题来举个小例子。如图所示C1和C2是要区分的两个类别，在二维平面中它们的样本如上图所示。中间..
分类：
其他好文 时间：
2014-10-01 00:50:50
阅读次数：
317
这一课时主要是讲述了线性模型的一些处理。
包括：
1、输入数据的表示（Input Representation）
2、线性分类（Linear Classification）
3、线性回归（Linear Regression）
4、非线性模型转换（Nonlinear Transformation）
作者认为，如果要测试某个模型的可用性，做好就是用真实数据。
为了讲解线...
分类：
其他好文 时间：
2014-08-29 22:42:38
阅读次数：
366
第二章 感知机感觉感知机这东西还是很简单的，随便写点。感知机（perceptron）是二分类的线性分类器。输入x表示实例的特征向量，输出y为实例的类别，由如下函数表示： 其中w为权值（weight）或权值向量（weight vector），b表示偏置（bias），sign为符号函数，里面的东西大于....
分类：
其他好文 时间：
2014-08-27 20:21:48
阅读次数：
241
