2006年,机器学习泰斗、多伦多大学计算机系教授Geoffery Hinton在Science发表文章,提出基于深度信念网络(Deep Belief Networks, DBN)可使用非监督的逐层贪心训练算法,为训练深度神经网络带来了希望。如果说Hinton 2006年发表在《Science》杂志上 ...
分类:
Web程序 时间:
2017-04-28 16:06:34
阅读次数:
249
Ba, Jimmy Lei, Jamie Ryan Kiros, and Geoffrey E. Hinton. "Layer normalization." arXiv preprint arXiv:1607.06450 (2016). Batch Normalization是对每个神经元做归一化 ...
分类:
其他好文 时间:
2017-03-31 20:51:01
阅读次数:
284
Distributed Representation 这种表示,它最早是 Hinton 于 1986 年提出的,可以克服 one-hot representation 的缺点。 其基本想法是: 通过训练将某种语言中的每一个词映射成一个固定长度的短向量(当然这里的“短”是相对于 one-hot rep ...
分类:
其他好文 时间:
2017-03-27 15:31:08
阅读次数:
278
原创 2017-03-06 Charles Humble 聊聊架构 作者|Charles Humble编辑|薛命灯 作为InfoQ下一年编辑关注点审核工作的一部分,我们挑选了Java作为深入探讨的主题。我们借用了Geoffrey Moore在他的经典书籍《跨越鸿沟》里的所描述的模型,这个模型贴切地概 ...
分类:
编程语言 时间:
2017-03-18 23:01:45
阅读次数:
249
深度信念网络 (Deep Belief Network, DBN) 由 Geoffrey Hinton 在 2006 年提出。它是一种生成模型,通过训练其神经元间的权重,我们可以让整个神经网络按照最大概率来生成训练数据。我们不仅可以使用 DBN 识别特征、分类数据,还可以用它来生成数据。下面的图片展 ...
分类:
其他好文 时间:
2017-02-27 18:47:02
阅读次数:
839
通常来说,大家认为深度学习的观点是Geoffrey Hinton在2006年提出的。这一算法提出之后,得到了迅速的发展。关于深度学习,zouxy09的专栏中有详细的介绍,Free Mind 的博文也很值得一读。本博文是我对深度学习的一点看法,主要内容在第4、5部分,不当之处还请指教。 1.深度学习 ...
分类:
其他好文 时间:
2017-01-31 10:37:52
阅读次数:
243
2016年6月IEEE的麦克斯韦奖颁发给了机器学习的领军人物Geoffrey Hinton。颁奖辞十分优雅,同时简洁、凝练地解释了机器学习的最新进展以及神经网络的崛起。我忍不住翻译了一下。 颁奖辞 Geoffrey Hinton是深度学习的创立者,受对人脑感知机制的理解以及如何将其应用到计算机中的驱 ...
分类:
其他好文 时间:
2016-09-24 23:16:37
阅读次数:
160
调参是个头疼的事情,Yann LeCun、Yoshua Bengio和Geoffrey Hinton这些大牛为什么能够跳出各种牛逼的网络? 下面一些推荐的书和文章:调参资料总结Neural Network: Trick of the Trade Neural Networks: Tricks of ...
分类:
其他好文 时间:
2016-08-17 10:26:00
阅读次数:
522
2016-07-20 11:21:33 1受限玻尔兹曼机 受限玻尔兹曼机(Restricted Boltzmann Machines, RBM)[1]由深度学习专家Hinton提出,有很多方面的应用,最成熟的有图像领域的图像识别和手写体数字识别,作为协同过滤算法对某一个未知值做预测,针对具有高维时间 ...
分类:
其他好文 时间:
2016-07-20 11:53:21
阅读次数:
806