普通线性回归的形式为：（之所以这么写是因为的线性才是线性的所指）线性回归模型有一下以下几个特征：1.2.x,y 通常取值连续3.y的分布为正态分布或接近正态。广义线性模型进行了如下推广：1.，h为严格单调充分光滑已知函数。（h的反函数）称为联系函数。;2.x,y可去连续或离散值，离散值比较常见。3....
分类：
其他好文 时间：
2014-12-11 01:29:30
阅读次数：
238
logistic回归一般用于二分类问题，比如判断一封邮件是否为垃圾邮件，判断照片中的人是男是女，预测一场比赛输还是赢......当然也可以用于多分类问题，比如k类别，就进行k次logistic回归。logistic回归算法之所以称作“logistic”，是因为它运用了logistic函数，即sigmoid函数。
logistic回归算法一般用于二分类问题（当然也可以多类别，后面会讲）。
logistic回归的算法思想：
重点在于怎么根据训练数据求得最佳拟合参数Θ？这可以用最优化算法来求解，比如常用的梯度上升...
分类：
编程语言 时间：
2014-12-10 14:18:25
阅读次数：
502
Logistic回归可以也可以用于多分类的，但是二分类的更为常用也更容易解释。所以实际中最常用的就是二分类的Logistic回归。LR分类器适用数据类型：数值型和标称型数据。其优点是计算代价不高，易于理解和实现；其缺点是容易欠拟合，分类精度可能不高。本文描述LR分类器原理并通过Python实现了该算法。...
分类：
编程语言 时间：
2014-12-09 14:05:48
阅读次数：
399
3166: [Heoi2013]AloTime Limit: 20 SecMemory Limit: 256 MBSubmit: 394Solved: 204[Submit][Status]DescriptionWelcome to ALO ( Arithmetic and Logistic Onl...
分类：
其他好文 时间：
2014-12-05 12:18:10
阅读次数：
156
1、首先下载安装weka http://www.cs.waikato.ac.nz/ml/weka/downloading.html2、打开weka，选择第一项Explorer 3、准备数据集文件，在weka中，一般数据文件为：xxx.arff，比如我编辑一个文件叫做tumor.arff，文件的内容....
分类：
其他好文 时间：
2014-12-03 14:07:43
阅读次数：
510
Logistic回归的使用和缺失值的处理从疝气病预测病马的死亡率数据集：UCI上的数据，368个样本，28个特征测试方法：交叉测试实现细节：1.数据中因为存在缺失值所以要进行预处理，这点待会再单独谈2.数据中本来有三个标签，这里为了简单直接将未能存活和安乐死合并了3.代码中计算10次求均值缺失值的处...
分类：
其他好文 时间：
2014-11-25 01:39:42
阅读次数：
245
Logistic回归算法优缺点：1.计算代价不高，易于理解和实现2.容易欠拟合，分类精度可能不高3.适用数据类型：数值型和标称型算法思想：其实就我的理解来说，logistic回归实际上就是加了个sigmoid函数的线性回归，这个sigmoid函数的好处就在于，将结果归到了0到1这个区间里面了，并且s...
分类：
编程语言 时间：
2014-11-24 00:49:02
阅读次数：
575
今天来讨论多元函数求极值问题，在Logistic回归用牛顿迭代法求参数会提到这个，所以很有必要把它研究清楚。
回想一下，一元函数求极值问题中我们是怎样做的？比如对于凹函数，先求一阶导数，得到，
由于极值处导数一定为零，但是导数等于零的点不一定就有极值，比如。所以我们还需要进一步判断，对
函数继续求二阶导得到，现在因为在驻点处二阶导数成立，所以
在处取得极小值，二阶导数在这里的意义就是...
分类：
其他好文 时间：
2014-11-23 20:19:23
阅读次数：
279
逻辑回归（Logistic Regression）是机器学习中十分常用的一种模型，属于广义线性模型。在互联网领域得到了广泛的应用，尤其是在广告系统中用来估计CTR。本文主要介绍逻辑回归的模型形式，求解策略和算法。接着介绍逻辑回归的最大似然估计，最后说明为什么逻辑回归要采用sigmoid函数做变换。模...
分类：
其他好文 时间：
2014-11-21 18:26:10
阅读次数：
360
1 Gradient Checking 说明前面我们已经实现了Linear Regression和Logistic Regression，关键在于代价函数Cost Function和其梯度Gradient的计算。在Gradient的计算中，我们一般采用推导出来的计算公式来进行计算。但是我们看到，推导出来的公式是复杂的，特别到后面的神经网络，更加复杂。这就产生了一个问题，我们如何判断我们编写的程序就...
分类：
其他好文 时间：
2014-11-20 13:46:16
阅读次数：
339
