Machine Learning:Neural Network---Representation
Non-Linear Classification
如果还采取简单的线性分类手段,那么会面临着过拟合以及效率低下的问题(如图所示),然而neural network则可以很好的解决非线性分类问题。
Model representation
第一层称为input la...
分类:
Web程序 时间:
2014-11-18 00:30:10
阅读次数:
290
大多数分类器都是01分类器,如logistic regression。当我们要将数据分为多类的时候,可以用一种叫one-vs-all的方法将01分类器用于多类分类(mult-class classification)原理很简单,训练与类数(k)相同个数的分类器,每个分类器只判断每个item是否属于某...
分类:
其他好文 时间:
2014-11-13 10:47:29
阅读次数:
193
1. Classification 这篇文章我们来讨论分类问题(classification problems),也就是说你想预测的变量 y 是一个离散的值。我们会使用逻辑回归算法来解决分类问题。 之前的文章中,我们讨论的垃圾邮件分类实际上就是一个分类问题。类似的例子还有很多,例如一个在线交易网站判...
分类:
其他好文 时间:
2014-11-02 23:44:56
阅读次数:
474
机器学习算法 原理、实践与实战 —— 分类、标注与回归1. 分类问题分类问题是监督学习的一个核心问题。在监督学习中,当输出变量$Y$取有限个离散值时,预测问题便成为分类问题。监督学习从数据中学习一个分类决策函数或分类模型,称为分类器(classifier)。分类器对新的输入进行输出的预测,这个过程称...
分类:
其他好文 时间:
2014-10-31 13:36:09
阅读次数:
1179
一、线性分类器:首先给出一个非常非常简单的分类问题(线性可分),我们要用一条直线,将下图中黑色的点和白色的点分开,很显然,图上的这条直线就是我们要求的直线之一(可以有无数条这样的直线) 假如说,我们令黑色的点 = -1, 白色的点 = +1,直线f(x) = w.x + b,这儿的x、w是向量,其实...
分类:
其他好文 时间:
2014-10-24 18:26:50
阅读次数:
265
1.1、摘要 贝叶斯分类是一类分类算法的总称,这类算法均以贝叶斯定理为基础,故统称为贝叶斯分类。本文作为分类算法的第一篇,将首先介绍分类问题,对分类问题进行一个正式的定义。然后,介绍贝叶斯分类算法的基础——贝叶斯定理。最后,通过实例讨论贝叶斯分类中最简单的一种:朴素贝叶斯分类。1.2、分类问题综述 ...
分类:
编程语言 时间:
2014-10-21 10:17:44
阅读次数:
604
这是分类算法。之前的回归问题尝试预测的变量y是连续变量,在这个分类算法中,变量y是离散的,y只取{0,1}两个值。一般这种离散二值分类问题用线性回归效果不好。比如x3,y=1,那么当x>3的样本占得比例很大是,线性回归的直线斜率就会越来越小,y=0.5时对应的x判决点就会比3大,造成预测错误。若y取...
分类:
其他好文 时间:
2014-10-19 18:21:19
阅读次数:
179
例子:分类:play or not ?(是/否) 目的:根据训练样本集S构建出一个决策树,然后未知分类样本通过决策树就得出分类。问题:怎么构建决策树,从哪个节点开始(选择划分属性的问题)方法:ID3(信息增益),C4.5(信息增益率),它们都是用来衡量给定属性区分训练样例的能力。1. 为了理解信息....
分类:
编程语言 时间:
2014-10-11 16:33:06
阅读次数:
256
贝叶斯公式描述的是一组条件概率之间相互转化的关系。
在机器学习中,贝叶斯公式可以应用在分类问题上。这篇文章是基于自己的学习所整理,并利用一个垃圾邮件分类的例子来加深对于理论的理解。
这里我们来解释一下朴素这个词的含义:
1)各个特征是相互独立的,各个特征出现与其出现的顺序无关;
2)各个特征地位同等重要;
以上都是比较强的假设
下面是朴素贝叶斯分类的流程:...
分类:
其他好文 时间:
2014-10-09 21:39:17
阅读次数:
205