线性回归 优点:结果易于理解,计算上不复杂 缺点:对非线性的数据拟合不好 适用数据类型:数值型和标称型数据 回归的目的就预测数值型的目标值。最直接的办法就是依据输入写一个目标值的计算公式。这个计算公式就是所谓的回归方程(regression equation),其中的参数就是回归系数,求这些回归系数 ...
分类:
其他好文 时间:
2016-12-22 00:26:09
阅读次数:
263
Ref: 从LeNet-5看卷积神经网络CNNs 关于这篇论文的一些博文的QAC: 1. 基本原理 MLP(Multilayer Perceptron,多层感知器)是一种前向神经网络(如下图所示),相邻两层网络之间全连接。 sigmoid通常使用tanh函数和logistic函数。 1998年Yan ...
分类:
Web程序 时间:
2016-12-20 09:45:13
阅读次数:
315
因为逻辑回归对于计算广告学非常重要。也是我们平时广告推荐、CTR预估最常用到的算法。所以单独开一篇文章讨论。 参考这篇文章:http://www.cnblogs.com/sparkwen/p/3441197.html 逻辑回归其实仅为在线性回归的基础上,套用了一个逻辑函数,但也就由于这个逻辑函数,逻 ...
分类:
其他好文 时间:
2016-12-19 00:05:08
阅读次数:
406
利用python实现简单的线性回归对房屋面积进行预测 注:在这里只是简单的利用LMS Loss Function 和 GD对Linear Regression进行了编写,并没有预测 ...
分类:
其他好文 时间:
2016-12-15 20:53:22
阅读次数:
215
https://en.wikipedia.org/wiki/Regression_analysis Regression analysis is widely used for prediction and forecasting, where its use has substantial ove ...
分类:
其他好文 时间:
2016-12-14 21:00:10
阅读次数:
224
一、CART决策树模型概述(Classification And Regression Trees) 决策树是通过一系列规则对数据进行分类的过程。它提供一种在什么条件下会得到什么值的类似规则的方法。??决策树算法属于有指导的学习,即原数据必须包含预测变量和目标变量。决策树分为分类决策树(目标变量为分 ...
分类:
其他好文 时间:
2016-12-13 19:34:51
阅读次数:
2158
一、把 soft margin svm 看做 L2 Regression 模型 先来一张图回顾一下之前都学了些什么: 之前我们是通过拉格朗日乘子法来进行soft Margin Svm的转化问题,现在换一个思路: 好了,观察我们得到的这个没有条件的最小化问题: 这似乎和L2正则比较相似: 所以,可以把 ...
分类:
其他好文 时间:
2016-12-13 19:33:22
阅读次数:
281
Logistic回归、传统多层神经网络1.1 线性回归、线性神经网络、Logistic/Softmax回归线性回归是用于数据拟合的常规手段,其任务是优化目标函数:h(θ)=θ...
分类:
其他好文 时间:
2016-12-12 20:22:33
阅读次数:
440
有时我们在实际分类数据挖掘中经常会遇到,类别样本很不均衡,直接使用这种不均衡数据会影响一些模型的分类效果,如logistic regression,SVM等,一种解决办法就是对数据进行均衡采样,这里就提供了一个建议代码实现,要求输入和输出数据格式为Label+Tab+Features, 如Libsv ...
分类:
其他好文 时间:
2016-12-11 15:02:27
阅读次数:
205
在spark.ml中,实现了加速失效时间(AFT)模型,这是一个用于检查数据的参数生存回归模型。 它描述了生存时间对数的模型,因此它通常被称为生存分析的对数线性模型。 不同于为相同目的设计的比例风险模型,AFT模型更容易并行化,因为每个实例独立地贡献于目标函数。 当在具有常量非零列的数据集上匹配AF ...
分类:
其他好文 时间:
2016-12-09 19:21:46
阅读次数:
391