逻辑回归模型预估的是样本属于某个分类的概率，其损失函数(Cost Function)可以像线型回归那样，以均方差来表示；也可以用对数、概率等方法。损失函数本质上是衡量”模型预估值“到“实际值”的距离，选取好的“距离”单位，可以让模型更加准确。1. 均方差距离\[{J_{sqrt}}\left( w ...
分类：
其他好文 时间：
2015-05-18 16:20:33
阅读次数：
132
逻辑回归（Logistic Regression，LR）应该是互联网行业使用最广的分类模型了。CTR预估、反作弊、推荐系统等等领域都在大量使用LR模型。近几年，DNN有逐渐取代LR的趋势，但LR仍然有着理论完备、训练速度快、物理意义清晰等优势。对于业务发展初期，LR仍然是首选。最后，LR模型本身并不...
分类：
其他好文 时间：
2015-05-15 21:08:54
阅读次数：
133
分布式框架Spark下实现逻辑回归，先附上源码，方法细节后续补充。
分类：
系统相关 时间：
2015-05-13 19:31:24
阅读次数：
555
1.1 逻辑回归算法
1.1.1 基础理论
logistic回归本质上是线性回归，只是在特征到结果的映射中加入了一层函数映射，即先把特征线性求和，然后使用函数g(z)将最为假设函数来预测。g(z)可以将连续值映射到0和1上。
它与线性回归的不同点在于：为了将线性回归输出的很大范围的数，例如从负无穷到正无穷，压缩到0和1之间，这样的输出值表达为“可能性”才能说服广大民众。当然了，把大值压缩到这...
分类：
编程语言 时间：
2015-05-07 18:55:51
阅读次数：
391
逻辑回归是一种回归的方法，可以说是线性回归映射到（0， 1）之间的线性回归，适合两类分类，以及在给出分类的时候能够一同给出分到该类别的概率大小。线性回归模型如下：用sigmoid函数映射到(0, 1)区间如下：那么可以得到以下条件概率：那么给定一个样本x，它的似然函数为对数似然函数为接下来对w求导，...
分类：
其他好文 时间：
2015-05-05 23:20:02
阅读次数：
133
引言这一小节介绍一下支持向量回归，我们在之前介绍的核逻辑回归使用表示定理(Representer Theorem)，将逻辑回归编程Kernel的形式，这一节我们沿着这个思路出发，看看如何将回归问题和Kernel的形式结合起来。Kernel Ridge Regression上次介绍的表示定理告诉我们，如果我们要处理的是有L2的正则项的线性模型，其最优解是数据zn的线性组合。我们可以将这样的线性模型变成...
分类：
其他好文 时间：
2015-05-03 23:41:49
阅读次数：
415
欢迎转载，转载请注明：本文出自Bin的专栏blog.csdn.net/xbinworld。
技术交流QQ群：433250724，欢迎对算法、技术、应用感兴趣的同学加入。...
分类：
其他好文 时间：
2015-05-03 22:09:59
阅读次数：
134
朴素贝叶斯用p1(x, y)表示(x, y)属于类别1的概率，P2(x, y)表示(x, y)属于类别2的概率；如果p(c1|x, y) > P(c2|x, y), 那么类别为1如果p(c1|x, y) p0:54 return 155 else: 56 r...
分类：
其他好文 时间：
2015-05-03 11:59:59
阅读次数：
353
回归问题的条件/前提：1） 收集的数据2） 如果的模型，即一个函数，这个函数里含有未知的參数，通过学习，能够预计出參数。然后利用这个模型去预測/分类新的数据。1. 线性回归如果 特征 和 结果 都满足线性。即不大于一次方。这个是针对 收集的数据而言。收集的数据中，每个分量，就能够看做一个特征数据。每...
分类：
其他好文 时间：
2015-04-30 15:44:26
阅读次数：
321
