学习笔记之《Some Improvements on Deep Convolutional Neural Network Based Image Classif ication》...
分类：
Web程序 时间：
2014-08-12 17:20:15
阅读次数：
334
Softmax回归就是推广版本的逻辑回归。
只不过逻辑回归是个2分类问题，而Softmax是多分类问题，仅此而已。
Softmax回归在2分类情况下就蜕化成了逻辑回归。
逻辑回归的代价函数
考虑到权重衰减，修改一下就是Softmax回归的代价函数了
这里的权重衰减项是必须的，因为原先的代价函数不是严格凸函数，有无穷个极小值。现在加了这个权重衰减项，函数变成了严格凸函数。L...
分类：
数据库 时间：
2014-08-12 17:10:34
阅读次数：
502
A linked list is given such that each node contains an additional random pointer which could point to any node in the list or null.Return a deep copy ...
分类：
其他好文 时间：
2014-08-12 16:49:54
阅读次数：
205
1.xml文档内容： Harry Potter J K. Rowling 2005 29.99 Everyday Italian Giada De Laurentiis 2005 30.00 Learning XML E...
分类：
其他好文 时间：
2014-08-12 16:33:44
阅读次数：
159
看到未名的几篇帖子 使我想起了和python的一些经历，于是写了一篇咚咚。1 书籍:python的syntax足够简单，semantics也不复杂，不怎么会使人混乱，一般来说看自带的文档足够可以学习了，看完两章便可以写出一些non-trivial的程序了。 硬要说入门书籍。 learning in ...
分类：
编程语言 时间：
2014-08-12 10:02:43
阅读次数：
163
ufldl学习笔记与编程作业：Feature Extraction Using Convolution,Pooling(卷积和池化抽取特征)
ufldl出了新教程，感觉比之前的好，从基础讲起，系统清晰，又有编程实践。
在deep learning高质量群里面听一些前辈说，不必深究其他机器学习的算法，可以直接来学dl。
于是最近就开始搞这个了，教程加上matlab编程，就是完美啊。
新教程的地址是：http://ufldl.stanford.edu/tutorial/...
分类：
其他好文 时间：
2014-08-12 00:41:23
阅读次数：
372
上一节介绍了主成分分析应用于2维数据。现在使用高维的图像数据来试试效果。
原始图像如图1所示。
图1
每个图片都是12*12的小patch，原始数据是一个144*10000的矩阵x。
在使用了PCA旋转之后，可以检查一下此时的协方差矩阵是否已经成功变成对角阵了，如图2所示。
avg=mean(x,1);
x=x-repmat(avg,size(x,1),1);
xRot = ze...
分类：
其他好文 时间：
2014-08-11 21:28:52
阅读次数：
429
这一节不论是思想还是实现都比较容易。
主成分分析（PCA）就是模式识别里面说的K-L变换，思想是完全相同的。
详情可见我的博文：特征选择（三）-K-L变换
这里简单介绍几个概念。顺便贴出代码和效果图。
xRot = zeros(size(x));
xRot=u'*x;
figure(2);
scatter(xRot(1, :), xRot(2, :));
title('xRot');得到原...
分类：
其他好文 时间：
2014-08-11 18:04:42
阅读次数：
309
矢量化编程就是用矢量运算取代所有的显式for循环。
上一节所用的是512*512*10的数据集很小，我们取的patch很小（8*8），学来的特征很少（25），而我又注释掉了梯度校验（偷懒），所以程序用了1分钟就跑完了（i5处理器）。
但实际上我们遇到的问题规模比这个打太多了，稍微大一点的数据集比如说MNIST，这个数据库是另外一个更大的手写体数据库NIST的子集，包含60000个训练例子...
分类：
其他好文 时间：
2014-08-11 12:10:22
阅读次数：
323
主要内容：
Spotify是个类似酷我音乐的音乐网站，做个性化音乐推荐和音乐消费。作者利用deep learning结合协同过滤来做音乐推荐。
具体内容：
1. 协同过滤
基本原理：某两个用户听的歌曲都差不多，说明这两个用户听歌的兴趣、品味类似；某两个歌曲，被同一群人听，说明这两个歌曲风格类似。
缺点：
（1）没有利用歌曲本身的特征（信息）
（2）无法对“层级...
分类：
其他好文 时间：
2014-08-11 00:28:01
阅读次数：
615
