深度学习2011年最开始火的时候（Hinton），人们会认为deep learning（DL） 约等于convolutional neural network（CNN）, 这是一个有监督学习的图像识别工具；然后出现了词向量(word2vec)，人们开始觉得DL还能解决一部分NLP问题然后long s...
分类：
其他好文 时间：
2015-11-23 11:29:49
阅读次数：
223
理论知识：UFLDL数据预处理和http://www.cnblogs.com/tornadomeet/archive/2013/04/20/3033149.html数据预处理是深度学习中非常重要的一步！如果说原始数据的获得，是深度学习中最重要的一步，那么获得原始数据之后对它的预处理更是重要的一部分。...
分类：
其他好文 时间：
2015-11-19 18:17:26
阅读次数：
197
前言理论知识：UFLDL教程和http://www.cnblogs.com/tornadomeet/archive/2013/04/09/3009830.html实验环境：win7， matlab2015b，16G内存，2T机械硬盘实验内容：Exercise:Convolution and Pool...
分类：
其他好文 时间：
2015-11-18 19:37:57
阅读次数：
418
前言实验内容：Exercise:Learning color features with Sparse Autoencoders。即：利用线性解码器，从100000张8*8的RGB图像块中提取彩色特征，这些特征会被用于下一节的练习理论知识：线性解码器和http://www.cnblogs.com/t...
分类：
其他好文 时间：
2015-11-14 16:36:12
阅读次数：
2227
Why Deep Learning Works – Key Insights and Saddle PointsA quality discussion on the theoretical motivations for deep learning, including distributed r...
分类：
其他好文 时间：
2015-11-04 21:24:38
阅读次数：
344
前言 本文是基于Exercise:PCA and Whitening的练习。 理论知识见：UFLDL教程。 实验内容：从10张512*512自然图像中随机选取10000个12*12的图像块（patch），然后对这些patch进行99%的方差保留的PCA计算，最后对这些patch做PCA Whi...
分类：
其他好文 时间：
2015-11-02 16:58:22
阅读次数：
345
前言这节主要是练习下PCA，PCA Whitening以及ZCA Whitening在2D数据上的使用，2D的数据集是45个数据点，每个数据点是2维的。一些matlab函数彩色分散点图函数：scatter(x,y,c,s) x, y为两个矢量，用于定位数据点，s为绘图点的大小，c为绘图所使用的色彩，...
分类：
其他好文 时间：
2015-11-02 13:52:38
阅读次数：
294
前言： 本节来练习下logistic regression相关内容，参考的资料为网页：http://openclassroom.stanford.edu/MainFolder/DocumentPage.php?course=DeepLearning&doc=exercises/ex4/ex4.html。这里给出的训练...
分类：
其他好文 时间：
2015-10-29 18:38:57
阅读次数：
304
动人的DL我们有六个月的时间，积累了一定的经验，实验，也DL有了一些自己的想法和理解。曾经想扩大和加深DL相关方面的一些知识。然后看到了一个MIT按有关的对出版物DL图书http://www.iro.umontreal.ca/~bengioy/dlbook/，所以就有了读一下这本书然后做点笔记攒点知...
分类：
其他好文 时间：
2015-10-27 21:31:02
阅读次数：
511
前言: 最近打算稍微系统的学习下deep learing的一些理论知识，打算采用Andrew Ng的网页教程UFLDL Tutorial，据说这个教程写得浅显易懂，也不太长。不过在这这之前还是复习下machine learning的基础知识...
分类：
其他好文 时间：
2015-10-26 10:36:45
阅读次数：
333
