CBAM: Convolutional Block Attention Module 简介 本文利用attention机制，使得针对网络有了更好的特征表示，这种结构通过支路学习到通道间关系的权重和像素间关系的权重，然后乘回到原特征图，使得特征图可以更好的表示。 Convolutional Block ...
分类：
其他好文 时间：
2019-09-12 09:53:52
阅读次数：
810
2019-09-10 19:46:07 问题描述：Seq2Seq模型引入注意力机制是为了解决什么问题？为什么选择使用双向循环神经网络模型？ 问题求解： 在实际任务中使用Seq2Seq模型，通常会先使用一个循环神经网络作为编码器，将输入序列编码成一个向量表示；然后再使用一个循环神经网络模型作为解码器， ...
分类：
其他好文 时间：
2019-09-10 23:33:00
阅读次数：
108
目录 1. 为什么需要RNN 2. LSTM的结构 3. LSTM网络 4. RNN 的评估 5. RNN的应用 6. Attention-based model 1. 为什么需要RNN？ 传统的神经网络，一个输入会对应一个输出，如果输入不变，那输出也不会变。如下，一个Tappei是属于目的地类的， ...
分类：
其他好文 时间：
2019-09-03 22:45:12
阅读次数：
116
论文题目：《BiSeNet: Bilateral Segmentation Network for Real-time Semantic Segmentation》 论文摘要：语义分割同时要求丰富的空间信息和大小不同的感受野。然而，通常我们为了达到实时的推理速度，会降低图像的空间分辨率，从而导致效果 ...
分类：
Web程序 时间：
2019-09-03 11:55:06
阅读次数：
151
中间表示： C -> C1、C2、C3 i：target -> IT j: source -> JS sim(Query, Key) -> Value Key：h_j，类似某种“basis”； 从图9可以引出另外一种理解，也可以将Attention机制看作一种软寻址（SoftAddressing）: ...
分类：
其他好文 时间：
2019-09-01 23:32:30
阅读次数：
130
1. 什么是Attention机制 在“编码器—解码器（seq2seq）”?节?，解码器在各个时间步依赖相同的背景变量来获取输?序列信息。当编码器为循环神经?络时，背景变量来?它最终时间步的隐藏状态。 现在，让我们再次思考那?节提到的翻译例?：输?为英语序列“They”“are”“watching”... ...
分类：
其他好文 时间：
2019-08-31 19:22:40
阅读次数：
107
论文地址：http://papers.nips.cc/paper/7181-attention-is-all-you-need.pdf只简要翻译一些重点内容。摘要很多序列转换模型都具有复杂的循环或卷积结构和编码/解码器。目前最好的模型也是基于编码/解码器和attention机制的。我们提出了一种简单... ...
分类：
其他好文 时间：
2019-08-27 15:39:00
阅读次数：
99
【清华NLP】图神经网络GNN论文分门别类，16大应用200+篇论文最新推荐 图神经网络研究成为当前深度学习领域的热点。最近，清华大学NLP课题组Jie Zhou, Ganqu Cui, Zhengyan Zhang and Yushi Bai同学对 GNN 相关的综述论文、模型与应用进行了综述，并 ...
分类：
其他好文 时间：
2019-08-27 01:07:19
阅读次数：
85
2 票 1610 阅读 / 0 讨论 Pointer-network理论及tensorflow实战 2018-03-02 4 票 2114 阅读 / 2 讨论 实战深度强化学习DQN-理论和实践 2018-02-27 3 票 3849 阅读 / 2 讨论 使用Seq2Seq+attention实现简 ...
分类：
其他好文 时间：
2019-08-26 22:38:28
阅读次数：
176
1. case 实现程序流程的选择，循环 系统管理工具箱 case 实行简单的JumpServer python 1. 执行脚本后，需要看到所有能管理的主机 2. 选择菜单，提示输入连接某个主机 !/usr/bin/bash 定义一个函数可以调用多次 meminfo(){ cat ...
分类：
系统相关 时间：
2019-08-24 20:54:41
阅读次数：
111
