Machine Learning：Neural Network Representation 1。Non-Linear Classification 假设还採取简单的线性分类手段。那么会面临着过拟合以及效率低下的问题(如图所看到的)，然而neural network则能够非常好的解决非线性分类问题。 ...
分类：
Web程序 时间：
2017-05-14 20:29:21
阅读次数：
231
一、逻辑回归问题 二分类的问题为是否的问题，由算出的分数值，经过sign函数输出的是（+1，-1），想要输出的结果为一个几率值，则需要改变函数模型 ，其中，， 则逻辑回归的函数为 二、逻辑回归错误评价 线性分类和线性回归的模型为： 其中的线性分数函数均为，逻辑回归有同样的分数函数，模型为 逻辑回归的 ...
分类：
其他好文 时间：
2017-05-10 19:54:35
阅读次数：
191
模型 机器学习中，感知机（perceptron）是一种二值的监督学习的算法（相应的函数，能决定输入是否属于某个分类，其中输入由一个数值向量表示）。感知机是一个线性分类器，其分类函数基于线性预测函数对新的输入作出预测，即，将输入（实数向量）映射到{-1，1}二值空间： f(x)=sign(wx+b) ...
分类：
其他好文 时间：
2017-05-10 15:44:49
阅读次数：
251
深度学习说到底就是要调节网络中得权重，使网络的分类结果更接近于训练值。这个重复迭代的过程又是一个线性回归的问题。在这种可能会用到高数，线性代数，概率论中的知识。 一、数学基础提一提。 1.高数中得知识。 高数中最重要的就是微积分了，那在深度学习中出现最多的一个概念就是梯度。什么是梯度呢?要说导数，学 ...
分类：
其他好文 时间：
2017-04-23 20:14:22
阅读次数：
307
课时6 线性分类器损失函数与最优化（上） 多类SVM损失：这是一个两分类支持向量机的泛化 SVM损失计算了所有不正确的例子，将所有不正确的类别的评分，与正确类别的评分之差加1，将得到的数值与0作比较，取两者中的最大值。然后将所有的数值进行求和。用平均值来代替不会影响结果。 这些评分都是无标度的，因为 ...
分类：
其他好文 时间：
2017-04-20 21:00:33
阅读次数：
193
我们在设计机器学习系统时，特别希望能够建立类似人脑的一种机制。神经网络就是其中一种。但是考虑到实际情况，一般的神经网络（BP网络）不需要设计的那么复杂，不需要包含反馈和递归。人工智能的一大重要应用，是分类问题。本文通过分类的例子，来介绍神经网络。 1.最简单的线性分类 一个最简单的分类，是在平面上画 ...
分类：
编程语言 时间：
2017-04-18 00:52:49
阅读次数：
250
一、核函数的引入 问题1： SVM显然是线性分类器。但数据假设根本就线性不可分怎么办？ 解决方式1： 数据在原始空间（称为输入空间）线性不可分。可是映射到高维空间（称为特征空间）后非常可能就线性可分了。 问题2： 映射到高维空间同一时候带来一个问题：在高维空间上求解一个带约束的优化问题显然比在低维空 ...
分类：
其他好文 时间：
2017-04-12 12:34:24
阅读次数：
395
1. 感知机学习模型 感知机是一个二分类的线性分类问题，求解是使误分类点到超平面距离总和的损失函数最小化问题。采用的是随机梯度下降法，首先任意选取一个超平面w0和b0，然后用梯度下降法不断地极小化目标损失函数，极小化过程中不是一次使所有误分类点的梯度下降，而是一次随机选取一个误分类点使其梯度下降。假 ...
分类：
其他好文 时间：
2017-04-07 23:42:03
阅读次数：
400
支持向量机原理(一) 线性支持向量机 支持向量机原理(二) 线性支持向量机的软间隔最大化模型 支持向量机原理(三)线性不可分支持向量机与核函数 支持向量机原理(四)SMO算法原理 支持向量机原理(五)线性支持回归 在前四篇里面我们讲到了SVM的线性分类和非线性分类，以及在分类时用到的算法。这些都关注 ...
分类：
其他好文 时间：
2017-04-07 18:30:01
阅读次数：
278
Xgboost是GB算法的高效实现，xgboost中的基学习器除了可以是CART（gbtree）也可以是线性分类器（gblinear）。 传统GBDT以CART作为基分类器，xgboost还支持线性分类器，这个时候xgboost相当于带L1和L2正则化项的逻辑斯蒂回归（分类问题）或者线性回归（回归问 ...
分类：
其他好文 时间：
2017-04-07 13:25:44
阅读次数：
389
