翻译自 "Build a Convolutional Neural Network using Estimators" 的`layer API dropout regularization layer MNIST`数据集中的手写数字。 数据集由 训练样例和 测试样例组成，全部都是0 9的手写数字，每 ...
分类：
Web程序 时间：
2019-04-13 00:39:37
阅读次数：
249
1. http://rll.berkeley.edu/adversarial/ Adversarial Attacks on Neural Network Policies 就是对test时候的policy进行构造对抗样本，方法还是用的分类对抗样本的方法，对于DQN，把Q value做个softma ...
分类：
其他好文 时间：
2019-04-08 15:22:51
阅读次数：
120
teacher student net 顾名思义：就是老师和学生的网络，也就是老师训练好，然后教学生去怎么训练 这里着重介绍两篇论文， 第一篇是hinton的paper:Distilling the Knowledge in a Neural Network 第二篇是阿里的一个paper:Rocke ...
分类：
Web程序 时间：
2019-04-03 20:45:40
阅读次数：
317
FPNN: Field Probing Neural Networks for 3D Data。 宗旨：本文旨在通过cnn学习3D的形状表达，网络设计时考虑的两个因素分别是：1. 特征应该具有很好的判别性。2. 特征提取的时效性。 2D 3D图像的差别：1.3D图像随着像素分别率的提高，surfac ...
分类：
其他好文 时间：
2019-04-02 14:07:06
阅读次数：
162
BinaryNet：通过权重和激活约束为+1或 1训练深度神经网络 [TOC] 摘要 ? 我们提出了BinaryNet，它是一种当计算参数的梯度时，可以用二进化权重和激活值训练DNN的方法。我们证明了可以用BinaryNet在MNIST上训练多层感知器,也可以在CIFAR 10和SNHN的训练Con ...
分类：
Web程序 时间：
2019-03-31 19:22:20
阅读次数：
234
Sebastian Ruder 博士的答辩 PPT《Neural Transfer Learning for Natural Language Processing》介绍了面向自然语言的迁移学习的动机、研究现状、缺陷以及自己的工作。 Sebastian Ruder 博士在 PPT 中阐述了使用迁移学 ...
分类：
编程语言 时间：
2019-03-28 00:37:13
阅读次数：
231
CNN理解与实现 组成部分 + Convolution Layer + Pool Layer: Max pooling layer Average pooling layer + Full Connected(FC) Layer 需要的函数 注意 + 参数$W$, $b$和数据$X$它们的维度是一样 ...
分类：
其他好文 时间：
2019-03-27 12:38:13
阅读次数：
137
摘要 虽然权重和激活量化是深度神经网络（DNN）压缩的有效方法，并且具有很多利用bit操作来提高推理速度的潜力，但在量化模型和完整模型之间的预测精度方面仍存在明显差距。为了解决这个差距，我们建议联合训练量化的，位操作兼容的DNN及其相关的量化器，而不是使用固定的手工量化方案，例如均匀或对数量化。我们 ...
分类：
Web程序 时间：
2019-03-27 12:29:39
阅读次数：
279
Survey Recent Advances in Efficient Computation of Deep Convolutional Neural Networks, [arxiv '18] A Survey of Model Compression and Acceleration for ...
分类：
其他好文 时间：
2019-03-26 19:38:27
阅读次数：
469
The Evolved Transformer - Enhancing Transformer with Neural Architecture Search 2019-03-26 19:14:33 Paper："The Evolved Transformer." So, David R., Che ...
分类：
其他好文 时间：
2019-03-26 19:29:55
阅读次数：
130
