1.引言 逻辑回归（LR）在分类问题中的应用十分广泛，它是一个基于概率的线性分类器，通过建立一个简单的输入层和输出层，即可实现对输入数据的有效分类。而该网络结构的主要参数只有两个，分别是权重和偏置，本文...
分类：
其他好文 时间：
2015-10-15 19:02:07
阅读次数：
219
背景：使用Logistic回归来预测患有疝气病的马的存活问题，这里的数据包括368个样本和28个特征，疝气病是描述马胃肠痛的术语，然而，这种病并不一定源自马的胃肠问题，其他问题也可能引发疝气病，该数据集中包含了医院检测马疝气病的一些指标，有的指标比较主观，有的指标难以测量，例如马的疼痛级别。另外，除...
分类：
编程语言 时间：
2015-10-14 00:13:14
阅读次数：
966
1、概述 Logistic regression（逻辑回归）是当前业界比较常用的机器学习方法，用于估计某种事物的可能性。 在经典之作《数学之美》中也看到了它用于广告预测，也就是根据某广告被用 户点击的可能性，把最可能被用户点击的广告摆在用户能看到的地方，然后叫他“你点我啊！”用户点了，你就有钱收.....
分类：
编程语言 时间：
2015-10-13 16:40:23
阅读次数：
910
交叉验证假设函数hi即按照某个模型进行训练得到的模型函数。对于可选择的模型构成集合M，其中Mi表示一种类型的模型，比如逻辑回归、神经网络、SVM等某一种。对于训练集S将其分为两部分，70%的样本作为训练集Strain,30%的作为测试集Scv。这样我们用每个模型Mi用Strain进行训练得到假设函数...
分类：
其他好文 时间：
2015-09-25 18:06:29
阅读次数：
186
关于Andrew Ng的machine learning课程中，有一章专门讲解逻辑回归（Logistic回归），具体课程笔记见另一篇文章。下面，对Logistic回归做一个简单的小结：给定一个待分类样本x，利用Logistic回归模型判断该输入样本的类别，需要做的就是如下两步：① 计算逻辑回归假设函...
分类：
其他好文 时间：
2015-08-29 13:55:10
阅读次数：
299
第6章 逻辑回归与最大熵模型逻辑回归(logistic regression)是统计学习中的经典分类方法。最大嫡是概率模型学习的一个准则将其推广到分类问题得到最大熵模型(maximum entropymodel)。逻辑回归模型与最大熵模型都属于对数线性模型。6.1 逻辑回归模型定义6.1(逻辑分布)...
分类：
其他好文 时间：
2015-08-28 19:15:16
阅读次数：
569
逻辑回归(Logistic Regression：LR) 逻辑回归(Logistic Regression, LR)模型其实仅在线性回归的基础上，套用了一个逻辑函数，但也就是由于这个逻辑函数，使得逻辑回归模型成为了机器学习领域一颗耀眼的明星，更是计算广告学的核心。6.1 分类问题（Classific...
分类：
系统相关 时间：
2015-08-28 13:01:53
阅读次数：
1018
第6章 逻辑回归与最大熵模型逻辑回归(logistic regression)是统计学习中的经典分类方法。最大嫡是概率模型学习的一个准则将其推广到分类问题得到最大熵模型(maximum entropy model)。逻辑回归模型与最大熵模型都属于对数线性模型。6.1 逻辑回归模型定义6.1(逻辑分布...
分类：
其他好文 时间：
2015-08-26 23:55:55
阅读次数：
760
最近跟完了Andrew Ng的Machine Learning前三周的课，主要讲解了机器学习中的线性回归（Linear Regression）和逻辑回归（Logistic Regression）模型。在这里做一下记录。
另外推荐一本统计学习的书，《统计学习方法》李航，书短小精悍，才200多页，但是内容基本上覆盖了机器学习中的理论基础。笔记 主要了解一下监督学习和无监督学习机器学习：是关于计算...
分类：
其他好文 时间：
2015-08-25 16:42:29
阅读次数：
240
牛顿方法（Newton's method）
逻辑回归中利用Sigmoid函数g(z)和梯度上升来最大化?(θ)。现在我们讨论另一个最大化?(θ)的算法----牛顿方法。
牛顿方法是使用迭代的方法寻找使f(θ)=0的θ值，在这里θ是一个真实的值，不是一个参数，只不过θ的真正取值不确定。牛顿方法数学表达式为：
牛顿方法简单的理解方式...
分类：
其他好文 时间：
2015-08-17 08:50:05
阅读次数：
665
