对于线性回归，我们不能使用相同的成本函数，因为logistic函数会导致输出波动，导致许多局部最优解。换句话说，它不是一个凸函数。 相反，我们的逻辑回归的成本函数看起来像： 当y = 1，我们得到如下图J（θ）与H(θ) 当y = 0，我们得到如下图J（θ）与H(θ) 如果我们的正确答案y是0，那么 ...
分类：
其他好文 时间：
2017-07-23 18:10:31
阅读次数：
172
#TensorFlow实现Logistic 回归 import tensorflow as tf #导入手写数字集 from tensorflow.examples.tutorials.mnist import input_data mnist = input_data.read_data_sets... ...
分类：
其他好文 时间：
2017-07-23 16:43:56
阅读次数：
243
近期開始看一些深度学习的资料。想学习一下深度学习的基础知识。找到了一个比較好的tutorial，Neural Networks and Deep Learning，认真看完了之后觉得收获还是非常多的。从最主要的感知机開始讲起。到后来使用logistic函数作为激活函数的sigmoid neuron， ...
分类：
Web程序 时间：
2017-07-22 23:54:34
阅读次数：
419
Logistic Regression 笔记与理解 Logistic Regression Hypothesis 记为 H(theta) H(theta)=g(z) 当中g(z),是一个叫做Logistic Function的函数。g(z)函数定义例如以下： 相应图像例如以下： 这是一个值域为0～1 ...
分类：
其他好文 时间：
2017-07-22 16:42:26
阅读次数：
118
SoftMax实际上是Logistic的推广，当分类数为2的时候会退化为Logistic分类 其计算公式和损失函数如下， 梯度如下， 1{条件} 表示True为1，False为0，在下图中亦即对于每个样本只有正确的分类才取1，对于损失函数实际上只有m个表达式（m个样本每个有一个正确的分类）相加， 对 ...
分类：
其他好文 时间：
2017-07-22 12:14:47
阅读次数：
249
本文原始版本号见http://blog.csdn.net/abcjennifer/article/details/7834256 本栏目（Machine learning）包含单參数的线性回归、多參数的线性回归、Octave Tutorial、Logistic Regression、Regulari ...
分类：
其他好文 时间：
2017-07-20 15:11:59
阅读次数：
207
R需要包：mice包；AUC包或pROC包 需要知识:logistic回归；SVM；GAM；缺失值多重插补法；拟合效果ROC、AUC In cancer studies, a question of critical interest is the progression of cancer. He ...
分类：
其他好文 时间：
2017-07-18 01:32:45
阅读次数：
662
主要思想：根据现有数据对分类边界线建立回归公式，以此进行分类 优点：计算代价不高，易于理解和实现 缺点：容易欠拟合，分类精度可能不高 适用数据类型：数值型和标称型数据 回归的结果为一个数值型数据，利用Sigmoid函数（平缓的阶跃函数）将其归一化到[0,1]之间，之后设定阈值以进行分类。 simoi ...
分类：
其他好文 时间：
2017-07-16 23:27:02
阅读次数：
188
对于某些线性回归问题，正规方程方法可能更加简单高效。 正规方程推导过程如下： 梯度下降法和正规方程的比较： 总结： 只要特征数量并不是特别大，对于线性回归问题正规方程是一个比梯度下降算法更快的替代算法。但是当特征数量非常多的时候或者模型更复杂的时候（比如logistic regression等），正 ...
分类：
其他好文 时间：
2017-07-14 23:07:02
阅读次数：
357
1 Gradient Checking 说明前面我们已经实现了Linear Regression和Logistic Regression。关键在于代价函数Cost Function和其梯度Gradient的计算。在Gradient的计算中，我们一般採用推导出来的计算公式来进行计算。可是我们看到，推导 ...
分类：
其他好文 时间：
2017-07-13 10:34:47
阅读次数：
188
