由于第一次实验的实验报告不在这台机器，先写这一算法吧。SGDLR（the Stochastic Gradient Descent for Logistic Regression），要讲解这一算法，首先要把名字拆为几块。1 随机 2 梯度下降 3逻辑回归先贴一篇文章：http://blog.csdn....
分类：
编程语言 时间：
2014-10-31 21:53:01
阅读次数：
389
PS:这些是今年4月份，跟斯坦福UFLDL教程时的实验报告，当时就应该好好整理的…留到现在好凌乱了Softmax Regression实验报告1.Softmax Regression实验描述 Softmax回归模型是逻辑回归模型的推广，它可以把数据分类到两个以上的类别。在本实验中，我们的目标是采用S...
分类：
其他好文 时间：
2014-10-16 23:49:33
阅读次数：
836
1.间隔（Margins）考虑逻辑回归，概率值是由模型预测出来的，给定，如果，则，预测最终类别就为1.对于一个正类样本，越大，也就越大，我们也就更大程度上确定该样本属于类别1.也就是说如果，那么预测就非常可信，类似地，如果，我们就能很自信是正确的预测.换种角度，对于给定的训练集，如果我们拟合出合适的...
分类：
其他好文 时间：
2014-10-09 02:00:07
阅读次数：
264
课程简介：
主要内容包括对线性分类及线性回归分析的简单回顾，以及对逻辑回归分析，误差测定与算法三方面的详细讲解，同时对非线性变换的泛化方法进行了剖析....
分类：
其他好文 时间：
2014-10-08 00:16:14
阅读次数：
365
考虑一个分类问题：根据一个动物的特征来区分该动物是大象（y=1）还是狗（y = 0）.利用逻辑回归找到一条直线，即分界线，将训练集中的大象和狗分开，当给定一个新的动物特征时，检查该动物位于分界线的哪一边，然后做出判断是大象，还是狗，就是对p(y|x；θ)进行建模。这里我们来看另一种不同的思路,首先根...
分类：
其他好文 时间：
2014-10-07 23:39:34
阅读次数：
384
开始，首先下载数据ex4Data.zip假设该数据集代表着一所高中学生中40名被大学录取，而另外40名没有被大学录取。每一个训练样例(x(i),y(i))包含一个学生的两科标准考试成绩以及是否被录取的标签。现在需要建立一个分类模型，要求根据学生的两科考试成绩，来判断学生被录取的概率。画出数据：x =...
分类：
其他好文 时间：
2014-10-07 13:36:03
阅读次数：
272
在逻辑回归之问题建模分析中我们提到最大化参数θ的最大化似然函数可以用梯度下降法，对参数进行更新直至上面的对数似然函数收敛。下面引入另一种方法：牛顿方法。开始，首先我们考虑如何找到一个函数的零点。也就是我们有一个函数：，我们希望找到一个值θ，使得.我们首先随机取某一点(x,f(x))，那么f(x)在该...
分类：
其他好文 时间：
2014-10-07 12:01:13
阅读次数：
288
首先，我们引入分类问题，其实分类问题和回归问题很相似，只是分类问题中我们要预测的y值是有限数量的离散值，而不是回归问题中的连续值。为了说明，我们现在只讨论二分类问题，也就是说y只能取0和1两种值。对于这种二分类问题，当然也可以用线性回归去学习，然后根据给的的x预测出y,只是当预测出的y大于1或者小于...
分类：
其他好文 时间：
2014-10-07 01:00:32
阅读次数：
296
Java实现简单版SVM近期的图像分类工作要用到latent svm，为了更加深入了解svm，自己动手实现一个简单版的。 之所以说是简单版，由于没实用到拉格朗日，对偶，核函数等等。而是用最简单的梯度下降法求解。当中的数学原理我參考了http://blog.csdn.net/lifeitengu...
分类：
编程语言 时间：
2014-10-05 14:48:58
阅读次数：
323
本讲主要说下逻辑回归的相关问题和详细的实现方法1. 什么是逻辑回归逻辑回归是线性回归的一种，那么什么是回归，什么是线性回归回归指的是公式已知，对公式中的未知參数进行预计，注意公式必须是已知的，否则是没有办法进行回归的线性回归指的是回归中的公式是一次的，比如z=ax+by逻辑回归事实上就是在线性回归的...
分类：
编程语言 时间：
2014-09-26 18:15:58
阅读次数：
2507
