提出attention机制,用于机器翻译。 背景:基于RNN的机器翻译 基本思路是首先对语言x进行编码encoder,然后解码decoder为语言y。encoder和decoder可以看做两层RNN? 编码的隐藏层h和解码的隐藏层s RNN encoder-decoder : 1)对输入的sente ...
分类:
系统相关 时间:
2017-12-23 18:58:20
阅读次数:
514
noise = np.random.normal(0, 0.5, x_data.shpae).astype(np.float32) #numpy.random.normal(loc=0.0, scale=1.0, size=None) size : int or tuple of ints, opt ...
分类:
Web程序 时间:
2017-12-22 22:52:40
阅读次数:
163
在2017年末,Face++发了一篇论文[ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile Devices ](https://arxiv.org/abs/1707.01083)讨论了一个极有效率且可... ...
分类:
Web程序 时间:
2017-12-22 20:46:17
阅读次数:
336
Tensorflow Welcome to the Tensorflow Tutorial! In this notebook you will learn all the basics of Tensorflow. You will implement useful functions and d ...
分类:
Web程序 时间:
2017-12-22 03:27:08
阅读次数:
266
【中文翻译】 2、每个 hyperparameter, 如果设置不佳, 会对训练产生巨大的负面影响, 所以所有的参数都同样重要, 可以很好地调整。真的还是假的? 【中文翻译】 4、如果你认为β (hyperparameter 为动量) 在0.9 和0.99 之间, 以下是推荐的方法为 beta 的值 ...
分类:
Web程序 时间:
2017-12-22 00:32:25
阅读次数:
232
Master the process of hyperparameter tuning Master the process of hyperparameter tuning ...
分类:
Web程序 时间:
2017-12-21 23:09:49
阅读次数:
341
Optimization Welcome to the optimization's programming assignment of the hyper-parameters tuning specialization. There are many different optimization ...
分类:
Web程序 时间:
2017-12-19 12:36:36
阅读次数:
226
典型卷积神经网络架构 参考资料 0 Figures First 1 LeNet5 贡献 2 Dan Ciresan Net 3 AlexNet 贡献 4 VGG19 贡献 5 Network-in-network(NiN) 6 Inception V1-V3 贡献 参考资料 Neural Netwo ...
分类:
其他好文 时间:
2017-12-19 12:20:44
阅读次数:
250
使用神经网络来实现自动驾驶,也就是说使汽车通过学习来自己驾驶。 下图是通过神经网络学习实现自动驾驶的图例讲解: 左下角是汽车所看到的前方的路况图像。左上图,可以看到一条水平的菜单栏(数字4所指示方向),白亮的区段显示的就是人类驾驶者选择的方向。而最右端则对应向右急转的操作(箭头3),中心稍微向左一点 ...
分类:
Web程序 时间:
2017-12-17 16:56:46
阅读次数:
192
感谢中国人民大学的胡鹤老师,课程容量巨大,收获颇丰。 之前提到的CNN模型主要用到人类的视觉中枢,但其有一劣势,无论是人类的视觉神经还是听觉神经,所接受到的都是一个连续的序列,使用CNN相当于割裂了前后的联系。从而诞生了专门为处理序列的Recurrent Neural Network(RNN),每一 ...
分类:
其他好文 时间:
2017-12-16 20:33:38
阅读次数:
187