注：最近开始学习《人工智能》选修课，老师提纲挈领的介绍了一番，听完课只了解了个大概，剩下的细节只能自己继续摸索。 从本质上讲：机器学习就是一个模型对外界的刺激（训练样本）做出反应，趋利避害（评价标准）。 1. 什么是逻辑回归？ 许多人对线性回归都比较熟悉，但知道逻辑回归的人可能就要少的多。从大的类别 ...
分类：
其他好文 时间：
2016-12-27 07:30:47
阅读次数：
276
参考这篇文章：http://blog.csdn.net/dongtingzhizi/article/details/15962797 这篇文章写的真好，把我之前那篇文章的困惑都解释了 http://www.cnblogs.com/charlesblc/p/6208688.html 对《机器学习实战》 ...
分类：
其他好文 时间：
2016-12-25 01:21:36
阅读次数：
186
因为逻辑回归对于计算广告学非常重要。也是我们平时广告推荐、CTR预估最常用到的算法。所以单独开一篇文章讨论。 参考这篇文章：http://www.cnblogs.com/sparkwen/p/3441197.html 逻辑回归其实仅为在线性回归的基础上，套用了一个逻辑函数，但也就由于这个逻辑函数，逻 ...
分类：
其他好文 时间：
2016-12-19 00:05:08
阅读次数：
406
一、一些概念 互信息： 两个随机变量x和Y的互信息，定义X, Y的联合分布和独立分布乘积的相对熵。 贝叶斯公式： 贝叶斯带来的思考： 给定某些样本D，在这些样本中计算某结论出现的概率，即 给定样本D 所以可以推出，再假定p(Ai)相等，可以推出，这个就是最大似然估计做的事情，看下取哪个参数的时候，D ...
分类：
其他好文 时间：
2016-12-18 18:06:26
阅读次数：
256
在本练习中，先介绍了SVM的一些基本知识，再使用SVM（支持向量机 ）实现一个垃圾邮件分类器。 在开始之前，先简单介绍一下SVM ①从逻辑回归的 cost function 到SVM 的 cost function 逻辑回归的假设函数如下： hθ(x)取值范围为[0,1]，约定hθ(x)>=0.5， ...
分类：
系统相关 时间：
2016-12-08 02:41:52
阅读次数：
417
（注：本文内容和图片来源于林轩田老师的《机器学习基石》课程） 1 引入逻辑回归 通常的二分类问题，希望输出类别；soft的二分类问题，希望输出概率值： 对于soft问题的理想数据和实际数据： 逻辑回归的思想：先求出特征的线性加权分数，再把它用逻辑斯蒂函数转化为0～1之间的值： 逻辑斯蒂函数介绍： 2 ...
分类：
其他好文 时间：
2016-12-06 14:02:04
阅读次数：
367
Logistic回归虽然名字叫”回归” ，但却是一种分类学习方法。使用场景大概有两个：第一用来预测，第二寻找因变量的影响因素。逻辑回归(Logistic Regression, LR)又称为逻辑回归分析，是分类和预测算法中的一种。通过历史数据的表现对未来结果发生的概率进行预测。例如，我们可以将购买的 ...
分类：
编程语言 时间：
2016-12-02 03:12:29
阅读次数：
313
1、简介 回归是一种极易理解的模型，就相当于y=f(x)，表明自变量x与因变量y的关系。最简单的回归是线性回归，然而线性回归的鲁棒性很差，使回归模型在训练集上表现都很差。这主要是由于线性回归在整个实数域内敏感度一致，而分类范围，需要在[0,1]。逻辑回归就是一种减小预测范围，将预测值限定为[0,1] ...
分类：
其他好文 时间：
2016-12-01 13:45:17
阅读次数：
778
最大熵模型(maximum entropy model， MaxEnt)也是很典型的分类算法了，它和逻辑回归类似，都是属于对数线性分类模型。在损失函数优化的过程中，使用了和支持向量机类似的凸优化技术。而对熵的使用，让我们想起了决策树算法中的ID3和C4.5算法。理解了最大熵模型，对逻辑回归，支持向量 ...
分类：
其他好文 时间：
2016-11-23 22:23:15
阅读次数：
308
摘要逻辑回归是用在分类问题中，而分类为题有存在两个比较大的方向：分类的结果用数值表是，比如1和0(逻辑回归采用的是这种)，或者-1和1(svm采用的)，还有一种是以概率的形式来反应，通过概率来说明此样本要一个类的程度即概率。同时分类问题通过适用的场合可以分为：离散和连..
分类：
其他好文 时间：
2016-11-21 23:52:24
阅读次数：
382
