从Hinton在science上发表深度学习训练开创新的文章以来,深度学习火了整整有3年多,而且随着新的硬件和算法的提出,深度学习正在应用于越来越多的领域,发挥其算法的优势。
实验室并没有赶上第一波深度学习热,但是让人高兴的是最近终于配了一台超级电脑,虽说和谷歌、百度几百个上千个GPU跑算法的设备不能比,但是好歹终于有了搭建自己的深度学习平台,想想还很是兴奋。最近这几天忙着搭建深度学习平...
分类:
编程语言 时间:
2016-05-12 06:54:53
阅读次数:
499
ImageNet Classification with Deep Convolutional Neural Networks
Alex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton
摘要
我们训练了一个大型的深度卷积神经网络,来将在ImageNet LSVRC-2010大赛中的120万张高清图像分为1000个不同的类别。对测试数据...
分类:
Web程序 时间:
2016-05-06 15:47:07
阅读次数:
305
Geoffrey Hinton教授的Neuron Networks for Machine Learning的第三讲主要介绍了线性/逻辑神经网络和BackPropagation,下面是整理的笔记。Learning the weights of a linear neuron这一小节介绍线性神经网络的学习算法。线性神经网络很像感知机,但又有不同:在感知机中,权值向量总是越来越接近好的权值设定;在线性神...
分类:
其他好文 时间:
2016-05-05 22:45:10
阅读次数:
396
引言:深度学习的浪潮开始于Hinton 的一篇文章 Reducing the Dimensionality of Data with Neural Networks; 代表人物:Geoffery Hinton 链接 :http://www.cs.toronto.edu/~hinton/ Yann L ...
分类:
其他好文 时间:
2016-04-16 23:12:32
阅读次数:
1141
1.RBM简介 受限玻尔兹曼机(Restricted Boltzmann Machines,RBM)最早由hinton提出,是一种无监督学习方法,即对于给定数据,找到最大程度拟合这组数据的参数,其网络结构如下: 以上的RBM的贝叶斯网络图,该网络可网络结构有 n个可视节点和m个隐藏节点 ,其中每个可 ...
分类:
Web程序 时间:
2016-04-14 19:23:01
阅读次数:
302
Bengio, LeCun, Jordan, Hinton, Schmidhuber, Ng, de Freitas and OpenAI have done reddit AMA's. These are nice places to start to get a Zeitgeist of the ...
分类:
其他好文 时间:
2016-03-28 13:33:02
阅读次数:
175
http://blog.sciencenet.cn/blog-517721-852551.html 学习笔记:深度学习是机器学习的突破 2006-2007年,加拿大多伦多大学教授、机器学习领域的泰斗Geoffrey Hinton和他的学生RuslanSalakhutdinov在《科学》以及在Neur
分类:
Web程序 时间:
2016-02-22 23:24:18
阅读次数:
470
深度学习2011年最开始火的时候(Hinton),人们会认为deep learning(DL) 约等于convolutional neural network(CNN), 这是一个有监督学习的图像识别工具;然后出现了词向量(word2vec),人们开始觉得DL还能解决一部分NLP问题然后long s...
分类:
其他好文 时间:
2015-11-23 11:29:49
阅读次数:
223
参考文献:深度学习历史:2006年,Hinton给出了突破的一步。2013年,李彦宏高调宣布成立深度学习研究院。目前,很多领域的state-of-the-art被深度学习占领。意义:通常,传统的方法需要手动提取特征:虽然,现在有许多牛逼的特征,如sift、hog特征,但是,手动提取特征很不方面,也不...
分类:
其他好文 时间:
2015-10-17 17:28:10
阅读次数:
338
从Hinton在science上发表深度学习训练开创新的文章以来,深度学习火了整整有3年多,而且随着新的硬件和算法的提出,深度学习正在应用于越来越多的领域,发挥其算法的优势。 实验室并没有赶上第一波深度学习热,但是让人高兴的是最近终于配了一台超级电脑,虽说和谷歌、百度几百个上千个GPU跑算法的...
分类:
系统相关 时间:
2015-09-18 13:45:31
阅读次数:
859