【深度学习系列2】Mariana DNN多GPU数据并行框架本文是腾讯深度学习系列文章的第二篇,聚焦于腾讯深度学习平台Mariana中深度神经网络DNN的多GPU数据并行框架。深度神经网络(Deep Neural Networks, 简称DNN)是近年来机器学习领域中的研究热点[1][2],产生了广...
分类:
其他好文 时间:
2015-06-18 13:21:42
阅读次数:
208
【深度学习系列3】 Mariana CNN并行框架与图像识别本文是腾讯深度学习系列文章的第三篇,聚焦于腾讯深度学习平台Mariana中深度卷积神经网络Deep CNNs的多GPU模型并行和数据并行框架。将深度卷积神经网络(Convolutional Neural Networks, 简称CNNs)用...
分类:
其他好文 时间:
2015-06-18 13:00:13
阅读次数:
211
Linear Classification在上一讲里,我们介绍了图像分类问题以及一个简单的分类模型K-NN模型,我们已经知道K-NN的模型有几个严重的缺陷,第一就是要保存训练集里的所有样本,这个比较消耗存储空间;第二就是要遍历所有的训练样本,这种逐一比较的方式比较耗时而低效。现在,我们要介绍一种更加强大的图像分类模型,这个模型会很自然地引申出神经网络和Convolutional Neural Net...
分类:
Web程序 时间:
2015-06-17 21:33:53
阅读次数:
174
通过 训练针对不同特征点的专项网络 来完全使用训练集。针对多个模型训练时间过长,介绍了一种通过提前训练的权重来加速网络训练的技巧。
这是教程的最后一部分。...
分类:
Web程序 时间:
2015-06-14 18:33:10
阅读次数:
515
How to build and run your first deep learning network Step-by-step instruction on training your own neural network. by Pete Warden | @petewarden | C...
分类:
Web程序 时间:
2015-06-11 14:35:05
阅读次数:
195
转自:http://dataunion.org/11692.html作者:张雨石自今年七月份以来,一直在实验室负责卷积神经网络(Convolutional Neural Network,CNN),期间配置和使用过theano和cuda-convnet、cuda-convnet2。为了增进CNN的理解...
分类:
其他好文 时间:
2015-06-09 00:51:09
阅读次数:
205
1. ufldl教程:http://ufldl.stanford.edu/tutorial/ Andrew Ng的教程,matlab代码。2. Neural Network and Deep Learning:http://neuralnetworksanddeeplearning.com/inde...
分类:
其他好文 时间:
2015-06-08 22:55:15
阅读次数:
144
A Rigorous & Readable Review on RNNsThis post introduces a newCritical Review on Recurrent Neural Networks for Sequence Learning.Twelve nights back, w...
分类:
其他好文 时间:
2015-06-03 21:04:16
阅读次数:
124
今天找到一个比较好的deep learning的教材:Neural Networks and Deep Learning对神经网络有详细的讲解,鉴于自己青年痴呆,还是总结下笔记吧=。=Perceptron感知器Perceptron的输入的一组binary变量xi,对这些binary变量求出加权和后,...
分类:
其他好文 时间:
2015-06-03 13:20:44
阅读次数:
151
1. vanish of gradientRNN的error相对于某个时间点t的梯度为:\(\frac{\partial E_t}{\partial W}=\sum_{k=1}^{t}\frac{\partial E_t}{\partial y_t}\frac{\partial y_t}{\part...
分类:
Web程序 时间:
2015-06-02 17:30:41
阅读次数:
227