一个典型的logistic regression模型是: 这里明明用了非线性函数，那为什么logistic regression还是线性模型呢？ 首先，这个函数不是f(y,x)=0的函数，判断一个模型是否是线性，是通过分界面是否是线性来判断的。 这个P函数是y关于x的后验概率，它的非线性性不影响分界 ...
分类：
其他好文 时间：
2017-05-20 21:14:27
阅读次数：
354
摘要： 用户反馈预估是搜素、推荐、广告的核心问题；其特征都是多域的分类和数值特征，难以利用； 常用的方法是线性模型+人工特征组合来预估； 本文通过FNN（基于FM）和SNN（基于RBM和DAE）来预估。 1、介绍 常用的ctr预估模型： 1）线性模型：LR->NB->FTRLLR->Bayesian ...
分类：
其他好文 时间：
2017-05-19 09:58:06
阅读次数：
154
给定样本示例x=（x1,x2,x3....xd），线性模型的目标是学得一个线性函数，即属性的线性组合 f(x)=w1x1+w2x2+...+wdxd+b。所以训练线性模型的目标就是求w、b.得到线性模型后就可以预测新的样本。 一、线性回归 给定数据集D={（x1,y1）,(x2,y2)...(xm， ...
分类：
其他好文 时间：
2017-05-12 22:14:14
阅读次数：
171
一、非线性问题 对于线性不可分的数据资料，用线性模型分类，Ein会很大，相应的Ein=Eout的情况下，Eout也会很大，导致模型表现不好，此时应用非线性模型进行分类，例如： 分类器模型是一个圆形，假设模型可表示为 转化表示形式 将平方项和常数项转为一次的Z项，则将非线性的特征空间转化为线性的特征空 ...
分类：
其他好文 时间：
2017-05-11 22:17:46
阅读次数：
215
Spark中常见的三种分类模型:线性模型、决策树和朴素贝叶斯模型。 线性模型，简单而且相对容易扩展到非常大的数据集；线性模型又可以分成：1.逻辑回归；2.线性支持向量机 决策树是一个强大的非线性技术,训练过程计算量大并且较难扩展(幸运的是,MLlib会替我们考虑扩展性的问题)，但是在很多情况下性能很 ...
分类：
其他好文 时间：
2017-05-01 21:03:14
阅读次数：
171
Logistic回归在用线性模型进行回归训练时，有时需要根据这个线性模型进行分类，则要找到一个单调可微的用于分类的函数将线性回归模型的预测值关联起来。这时就要用到逻辑回归，之前看吴军博士的《数学之美》...
分类：
其他好文 时间：
2017-04-24 17:47:28
阅读次数：
276
本文简单整理了以下内容： （一）线性回归 （二）二分类：二项Logistic回归 （三）多分类：Softmax回归 （四）广义线性模型 二项Logistic回归是我去年入门机器学习时学的第一个模型，我觉得这个模型很适合用来入门（但是必须注意这个模型有很多很多很多很多可以展开的地方）。比较有意思的是那 ...
分类：
其他好文 时间：
2017-04-21 21:25:43
阅读次数：
634
BP算法： 1.是一种有监督学习算法，常被用来训练多层感知机。 2.要求每个人工神经元（即节点）所使用的激励函数必须可微。 （激励函数：单个神经元的输入与输出之间的函数关系叫做激励函数。） （假如不使用激励函数，神经网络中的每层都只是做简单的线性变换，多层输入叠加后也还是线性变换。因为线性模型的表达 ...
分类：
编程语言 时间：
2017-04-16 12:16:13
阅读次数：
352
1 一元线性回归 线性回归是一种简单的模型，但受到广泛应用，比如预测商品价格，成本评估等，都可以用一元线性模型。y = f(x) 叫做一元函数，回归意思就是根据已知数据复原某些值，线性回归（regression）就是用线性的模型做回归复原。 基本思想：已知一批(x, y)来复原另外未知的值，例如（1 ...
分类：
编程语言 时间：
2017-04-16 12:05:13
阅读次数：
289
