Squeeze and Excitation Networks SENet是Squeeze and Excitation Networks的简称，拿到了ImageNet2017分类比赛冠军，其效果得到了认可，其提出的SE模块思想简单，易于实现，并且很容易可以加载到现有的网络模型框架中。SENet主要 ...
分类：
其他好文 时间：
2020-01-01 11:53:51
阅读次数：
125
前言： 这是CV中的Attention机制专栏的第一篇博客，并没有挑选实现起来最简单的SENet作为例子，而是使用了CBAM作为第一个讲解的模块，这是由于其使用的广泛性以及易于集成。目前cv领域借鉴了nlp领域的attention机制以后生产出了很多有用的基于attention机制的论文，atten ...
分类：
其他好文 时间：
2019-12-31 23:30:56
阅读次数：
89
主要工作： 卷积神经网络 U-Net 改进注意力机制 ARU-Net网络与U-Net一样呈对称结构，无全连接层，输入的图像大小可不相同，但输出的结果与输入的图像大小一致，对于每一个像素点进行分类，从而实现图像的分割。该网络添加残差映射和注意力机制，可以提高了特征的使用率，进而提升钩骨分割的准确率。该 ...
分类：
Web程序 时间：
2019-12-21 15:41:19
阅读次数：
129
import sys import codecs import tensorflow as tf # 1.参数设置。 # 读取checkpoint的路径。9000表示是训练程序在第9000步保存的checkpoint。 CHECKPOINT_PATH = "F:\\temp\\attention_c... ...
分类：
编程语言 时间：
2019-12-19 21:35:30
阅读次数：
93
概要 近年来，深度卷积神经网络（CNNs）在单一图像超分辨率（SISR）中进行了广泛的探索，并获得了卓越的性能。但是，大多数现有的基于CNN的SISR方法主要聚焦于更宽或更深的体系结构设计上，而忽略了挖掘层间特征的内在相关性，从而阻碍了CNN的表示能力。为了解决这一问题，在本文中提出了一个二阶注意力 ...
分类：
Web程序 时间：
2019-12-15 12:41:00
阅读次数：
276
因为实训课要用LSTM+attention机制在钢材领域做一个关系抽取。作为仅仅只学过一点深度学习网络的小白在b站上学习了RNN，LSTM的一些理论知识。 但只懂得一些理论知识是无法完成关系抽取的任务的。于是从图书馆借来《tensoflow实战 深度学习框架》，在此开始记录我的tensorflow神 ...
分类：
其他好文 时间：
2019-12-13 15:27:09
阅读次数：
111
Introduction 在transformer model出现之前，主流的sequence transduction model是基于循环或者卷积神经网络，表现最好的模型也是用attention mechanism连接基于循环神经网络的encoder和decoder. Transformer m ...
分类：
其他好文 时间：
2019-12-07 14:10:41
阅读次数：
107
[toc] 最近看了些关于attention的文章。Attention是比较好理解的人类视觉机制，但怎么用在计算机问题上并不简单。 实际上15年之前就已经有人将attention用于视觉任务，但为什么17年最简单的SENet取得了空前的成功？其中一个原因是，前人的工作大多考虑空间上的（spatial ...
分类：
Web程序 时间：
2019-12-01 21:23:58
阅读次数：
119
ABSTRACT 在本文中，我们探讨了从线条生成逼真的人脸图像的任务。先前的基于条件生成对抗网络(cGANs)的方法已经证明，当条件图像和输出图像共享对齐良好的结构时，它们能够生成视觉上可信的图像。然而，这些模型无法合成具有完整定义结构的人脸图像，例如眼睛、鼻子、嘴巴等，特别是当条件线图缺少一个或多 ...
分类：
Web程序 时间：
2019-11-28 19:32:53
阅读次数：
193
Abstract 在这篇论文中，我们提出了自注意生成对抗网络(SAGAN)，它是用于图像生成任务的允许注意力驱动的、长距离依赖的建模。传统的卷积GANs只根据低分辨率图上的空间局部点生成高分辨率细节。在SAGAN中，可以使用来自所有特征位置的线索生成细节。此外，判别器可以检查图像中较远部分的细节特征 ...
分类：
Web程序 时间：
2019-11-28 19:06:50
阅读次数：
149
