自我学习就是稀疏编码器串联一个Softmax分类器，上一节看到，训练400次，准确率为98.2%
在此基础上，我们可以搭建我们的第一个深度网络：栈式自编码（2层）+Softmax分类器
简单地说，我们把稀疏自编码器的输出作为更高一层稀疏自编码器的输入。
和自我学习很像，似乎就是新加了一层，但是其实不然：
新技巧在于，我们这里有个微调的过程，让残差从最高层向输入层传递，微调整个网络权重...
分类：
其他好文 时间：
2014-08-16 12:37:40
阅读次数：
220
linger博客原创性博文导航
http://blog.csdn.net/lingerlanlan
大学研究游戏外挂技术开始了此博客，断断续续写了些博文。后来，开始机器学习和深度学习的研究工作，由于喜欢和热爱，业余时间也经常性学习，并写博文总结。因此，博文越来越多，由于博文是根据时间排序的，看起来有点乱，所以在此处写个导航。
UFLDL学习笔记和编程
ufldl...
分类：
其他好文 时间：
2014-08-15 00:01:26
阅读次数：
372
学习笔记之《Multi-Scale Orderless Pooling of Deep Convolutional Activation Features》...
分类：
其他好文 时间：
2014-08-14 20:48:29
阅读次数：
393
学习笔记之《CNN: Single-label to Multi-label》...
分类：
其他好文 时间：
2014-08-13 19:03:37
阅读次数：
502
自我学习就是把稀疏自编码器与Softmax回归分类器串联起来。
稀疏编码器是用来无监督学习的，使用无标签数据。
Softmax回归分类器是有监督学习，使用标签数据。
实际生活中，我们能轻松获得大量无标签数据（如从网上随机下载海量图片）
难以获得大量有标签数据（有标签的数据库通常不会太大，而且很贵）
如果我们手头上只有少量标签数据，但是有大量的无标签数据，这是就可以采用自我...
分类：
其他好文 时间：
2014-08-13 13:03:36
阅读次数：
493
Softmax回归就是推广版本的逻辑回归。
只不过逻辑回归是个2分类问题，而Softmax是多分类问题，仅此而已。
Softmax回归在2分类情况下就蜕化成了逻辑回归。
逻辑回归的代价函数
考虑到权重衰减，修改一下就是Softmax回归的代价函数了
这里的权重衰减项是必须的，因为原先的代价函数不是严格凸函数，有无穷个极小值。现在加了这个权重衰减项，函数变成了严格凸函数。L...
分类：
数据库 时间：
2014-08-12 17:10:34
阅读次数：
502
经过了2个月对机器学习的了解后，我发现了，机器学习的方向多种多样。网页排序，语音识别，图像识别，推荐系统等。算法也多种多样。看见其他的书后，我发现除了讲到的k均值聚类，贝叶斯，神经网络，在线学习等等，还有很多其他的算法。比如说：免疫算法，遗传算法，主成分分析，蚁群算法等等。好像很多算法都是需要做很多的研究才能用的很好的。据说深度学习是由神经网络升级来的。神经网络本身就是一本书，内容很多。龙星计划里...
分类：
其他好文 时间：
2014-08-12 00:39:33
阅读次数：
206
上一节介绍了主成分分析应用于2维数据。现在使用高维的图像数据来试试效果。
原始图像如图1所示。
图1
每个图片都是12*12的小patch，原始数据是一个144*10000的矩阵x。
在使用了PCA旋转之后，可以检查一下此时的协方差矩阵是否已经成功变成对角阵了，如图2所示。
avg=mean(x,1);
x=x-repmat(avg,size(x,1),1);
xRot = ze...
分类：
其他好文 时间：
2014-08-11 21:28:52
阅读次数：
429
这一节不论是思想还是实现都比较容易。
主成分分析（PCA）就是模式识别里面说的K-L变换，思想是完全相同的。
详情可见我的博文：特征选择（三）-K-L变换
这里简单介绍几个概念。顺便贴出代码和效果图。
xRot = zeros(size(x));
xRot=u'*x;
figure(2);
scatter(xRot(1, :), xRot(2, :));
title('xRot');得到原...
分类：
其他好文 时间：
2014-08-11 18:04:42
阅读次数：
309
矢量化编程就是用矢量运算取代所有的显式for循环。
上一节所用的是512*512*10的数据集很小，我们取的patch很小（8*8），学来的特征很少（25），而我又注释掉了梯度校验（偷懒），所以程序用了1分钟就跑完了（i5处理器）。
但实际上我们遇到的问题规模比这个打太多了，稍微大一点的数据集比如说MNIST，这个数据库是另外一个更大的手写体数据库NIST的子集，包含60000个训练例子...
分类：
其他好文 时间：
2014-08-11 12:10:22
阅读次数：
323
