码迷,mamicode.com
首页 > Web开发 > 详细

MobileNetV2: Inverted Residuals and Linear Bottlenecks

时间:2020-03-13 11:27:21      阅读:94      评论:0      收藏:0      [点我收藏+]

标签:mobile   通道   http   技术   使用   运算   stride   函数   lock   

本文的主要贡献点是一个构造了一个结构,称为the inverted residual with linear bottleneck。该结构与传统的residual block中维度先缩减后扩增相反,而是先将输入的低维feature map扩增到高维,然后用depthwise convolution方式做卷积运算,然后再使用一个线性的卷积将其映射到低维空间中。

     Inverted residual block简单介绍

技术图片

  如上图,左边(a)图的传统的residual block,先用1x1卷积将输入的feature map的维度降低,然后进行3x3的卷积操作,最后再用1x1的卷积将维度变大。右边(b)图即为本文提出的结构,先用1x1卷积将输入的feature map维度变大,然后用3x3 depthwise convolution方式做卷积运算,最后使用1x1的卷积运算将其维度缩小。注意,此时的1x1卷积运算后,不再使用ReLU激活函数,而是使用线性激活函数,以保留更多特征信息,保证模型的表达能力。

    该block具体结构如下:

技术图片

技术图片

当stride=1时,block内会有short cut;而当stride=2时,block没有short cut。

下图是MobileNetV2与MobileNetV1的区别(原图链接):

 技术图片

主要区别有两点:

(1)Depth-wise convolution之前多了一个1*1的“扩张”层,目的是为了提升通道数,获得更多特征;

(2)最后不采用Relu,而是Linear,目的是防止Relu破坏特征。

MobileNetV2: Inverted Residuals and Linear Bottlenecks

标签:mobile   通道   http   技术   使用   运算   stride   函数   lock   

原文地址:https://www.cnblogs.com/ziwh666/p/12485222.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!