这是2014年nips workshop的一篇paper。这个paper号称他们提出了invariant dropout，可以对inputs和activation units的additive shift transform（我理解的其实就是加additive noise）具有不变性。通常如果在每一...
分类：
其他好文 时间：
2015-03-10 16:58:38
阅读次数：
162
节选自语义分析的一些方法(二)，以后会不断补充。——by wepon
结合文献『Deep Learning for Computer Vision』， 以下讲讲卷积神经网络的一些注意点和问题。
激励函数，要选择非线性函数，譬如tang，sigmoid，rectified liner。在CNN里，relu用得比较多，原因在于：(1)简化BP计算；(2)使学习更快。(3)避免饱和问题(sa...
分类：
其他好文 时间：
2015-02-27 20:17:55
阅读次数：
372
How to build and run your first deep learning network Step-by-step instruction on training your own neural network.
分类：
Web程序 时间：
2015-02-26 20:00:25
阅读次数：
195
这一篇是整个第五章的精华了，会重点介绍一下Neural Networks的训练方法——反向传播算法（backpropagation，BP），这个算法提出到现在近30年时间都没什么变化，可谓极其经典。也是deep learning的基石之一。还是老样子，下文基本是阅读笔记（句子翻译+自己理解），把书里的内容梳理一遍，也不为什么目的，记下来以后自己可以翻阅用。...
分类：
编程语言 时间：
2015-02-07 23:03:19
阅读次数：
313
Text Understanding from Scratch Xiang Zhang,?Yann LeCun (Submitted on 5 Feb 2015) This article demontrates that we can apply deep learning to text understanding from character-level inputs all the...
分类：
其他好文 时间：
2015-02-06 19:10:43
阅读次数：
136
word2vec是Google在2013年提出的一款开源工具，其是一个Deep Learning(深度学习)模型（实际上该模型层次较浅，严格上还不能算是深层模型，如果word2vec上层再套一层与具体应用相关的输出层，如Softmax，便更像是一个深层模型），它将词表征成实数值向量，采用CBOW（Continuous Bag-Of-Words Model，连续词袋模型）和Skip-Gram(Con...
分类：
Windows程序 时间：
2015-02-04 23:30:43
阅读次数：
1071
茫然中不知道该做什么，更看不到希望。 偶然看到coursera上有Andrew Ng教授的机器学习课程以及他UFLDL上的深度学习课程，于是静下心来，视频一个个的看，作业一个一个的做，程序一个一个的写。N多数学的不懂、Matlab不熟悉，开始的时候学习进度慢如蜗牛，坚持了几个月，终于也学完了。...
分类：
其他好文 时间：
2015-02-04 16:23:11
阅读次数：
319
我们前面已经讲了如何训练稀疏自编码神经网络，当我们训练好这个神经网络后，当有新的样本输入到这个训练好的稀疏自编码器中后，那么隐藏层各单元的激活值组成的向量就可以代表（因为根据稀疏自编码，我们可以用来恢复），也就是说就是在新的特征下的特征值。每一个特征是使某一个取最大值的输入。假设隐藏层单元有200个...
分类：
其他好文 时间：
2015-02-03 16:48:23
阅读次数：
460
这一篇是整个第五章的精华了，会重点介绍一下Neural Networks的训练方法——反向传播算法（backpropagation，BP），这个算法提出到现在近30年时间都没什么变化，可谓极其经典。也是deep learning的基石之一。还是老样子，下文基本是阅读笔记（句子翻译+自己理解），把书里...
分类：
编程语言 时间：
2015-02-01 14:41:45
阅读次数：
348
Deep Learning（深度学习）学习笔记整理系列zouxy09@qq.comhttp://blog.csdn.net/zouxy09作者：Zouxyversion 1.0 2013-04-08声明：1）该Deep Learning的学习系列是整理自网上非常大牛和机器学习专家所无私奉献的资料的。...
分类：
其他好文 时间：
2015-01-24 17:18:05
阅读次数：
291
