目录 VGGNet网络结构 论文中还讨论了其他结构 参考资料 2014年，牛津大学计算机视觉组（Visual Geometry Group）和Google DeepMind公司的研究员一起研发出了新的深度卷积神经网络：VGGNet，并取得了ILSVRC2014比赛分类项目的第二名（第一名是GoogL ...
分类：
Web程序 时间：
2019-08-20 11:08:50
阅读次数：
196
目录 直接定义的缺点 简易定义的方式 参考资料 直接定义的缺点 在tensorflow中假设有一批输入为： 其定义如下： tf.constant([ [ [ [3, 1, -3], [1, -1, 7] ], [ [-2, 2, -5], [2, 7, 3] ] ], [ [ [-1, 3, 1], ...
分类：
其他好文 时间：
2019-08-20 11:04:57
阅读次数：
65
目录 举例 单个张量与多个卷积核在深度上分别卷积 参考资料 举例 如下张量x和卷积核K进行depthwise_conv2d卷积 结果为： depthwise_conv2d和conv2d的不同之处在于conv2d在每一深度上卷积，然后求和，depthwise_conv2d没有求和这一步，对应代码为： ...
分类：
其他好文 时间：
2019-08-20 10:59:16
阅读次数：
620
目录 BN的由来 BN的作用 BN的操作阶段 BN的操作流程 BN可以防止梯度消失吗 为什么归一化后还要放缩和平移 BN在GoogLeNet中的应用 参考资料 BN的由来 BN是由Google于2015年提出，论文是《Batch Normalization_ Accelerating Deep Ne ...
分类：
其他好文 时间：
2019-08-20 10:52:25
阅读次数：
160
目录 举例 单个张量与多个卷积核的分离卷积 参考资料 举例 分离卷积就是先在深度上分别卷积，然后再进行卷积，对应代码为： import tensorflow as tf # [batch, in_height, in_width, in_channels] input =tf.reshape(tf. ...
分类：
其他好文 时间：
2019-08-20 10:52:05
阅读次数：
66
目录 卷积层的dropout 全连接层的dropout Dropout的反向传播 Dropout的反向传播举例 参考资料 在训练过程中，Dropout会让输出中的每个值以概率keep_prob变为原来的1/keep_prob倍，以概率1-keep_prob变为0。也就是在每一轮的训练中让一些神经元随 ...
分类：
其他好文 时间：
2019-08-20 10:47:55
阅读次数：
105
目录 网络结构 两大创新点 参考资料 第一个典型的CNN是LeNet5网络结构，但是第一个引起大家注意的网络却是AlexNet，Alex Krizhevsky其实是Hinton的学生，这个团队领导者是Hinton，于2012年发表论文。 AlexNet有60 million个参数和65000个 神经 ...
分类：
Web程序 时间：
2019-08-20 10:46:23
阅读次数：
150
目录 举例 在Inception module上的应用 参考资料 可以减少计算量，可以增加非线性判别能力 举例 假设有1个高为30、宽为40，深度为200的三维张量与55个高为5、宽为5、深度为200的卷积核same卷积，步长=1，则结果是高为30、宽为40、深度为55的三维张量，如图所示： 该卷积 ...
分类：
其他好文 时间：
2019-08-20 10:43:18
阅读次数：
96
目录 感受野 多个小卷积核连续卷积和单个大卷积核卷积的作用相同 小卷积核的优势 参考资料 感受野 在卷积神经网络中，感受野（Receptive Field）的定义是卷积神经网络每一层输出的特征图（feature map）上的像素点在输入图片上映射的区域大小。再通俗点的解释是，特征图上的一个点对应输入 ...
分类：
其他好文 时间：
2019-08-20 10:42:56
阅读次数：
97
目录 梯度消失 梯度爆炸 参考资料 以下图的全连接神经网络为例，来演示梯度爆炸和梯度消失： 梯度消失 在模型参数w都是(-1,1)之间的数的前提下，如果激活函数选择的是sigmod(x)，那么他的导函数σ’(x)的值域为(0,0.25]，即如下三项的范围都是(0,0.25] 那么w1的导数会有很多( ...
分类：
其他好文 时间：
2019-08-20 10:41:06
阅读次数：
101
