Abstract 在这篇论文中,我们提出了自注意生成对抗网络(SAGAN),它是用于图像生成任务的允许注意力驱动的、长距离依赖的建模。传统的卷积GANs只根据低分辨率图上的空间局部点生成高分辨率细节。在SAGAN中,可以使用来自所有特征位置的线索生成细节。此外,判别器可以检查图像中较远部分的细节特征 ...
分类:
Web程序 时间:
2019-11-28 19:06:50
阅读次数:
149
Seq2Seq模型 基本原理 核心思想:将一个作为输入的序列映射为一个作为输出的序列 编码输入 解码输出 解码第一步,解码器进入编码器的最终状态,生成第一个输出 以后解码器读入上一步的输出,生成当前步输出 组成部件: Encoder Decoder 连接两者的固定大小的State Vector 解码 ...
分类:
其他好文 时间:
2019-11-24 17:27:19
阅读次数:
162
读书自学的方法(不断更新) 欲速则不达 上课2个小时,有些知识点讲得慢,并不是因为老师怕你听不懂,而是把握住了节奏,不会导致长时间集中注意力而厌倦。 故自学,读书,要控制速度,太快了反而不好,当觉得学不动了就要休息。学习的密度要均匀,有进有停,不会很快厌倦,反而能学得更快。 ...
分类:
其他好文 时间:
2019-11-23 21:49:37
阅读次数:
56
论文创新点: 多头注意力 transformer模型 Transformer模型 上图为模型结构,左边为encoder,右边为decoder,各有N=6个相同的堆叠。 encoder 先对inputs进行Embedding,再将位置信息编码进去(cancat方式),位置编码如下: 然后经过多头注意力 ...
分类:
其他好文 时间:
2019-11-15 12:13:50
阅读次数:
90
药物反应记录 剧烈恶心,呕吐感 没有昨天手抖的呢么严重了 轻微头疼 注意力难以集中 早上 昨天我不知道我为什么要拍一张黑白的照片。 下午 有情绪波动,不大。 我没有去上体育课。 恶心感严重。 我从学校出来回家了,在车上莫名其妙的就流起了眼泪。 今天天气很好,真的很好。 晚上 虽然恶心感很严重,吃不下 ...
分类:
其他好文 时间:
2019-11-13 23:46:10
阅读次数:
78
基于知识图谱的视觉问答 前言 我们知道现在主流的VQA都是神经网络,特征序列输入RNN或者LSTM,基于注意力机制这样做一套,经典的如Show Attend and Tell、Top down Attention等,都是基于神经网络做的视觉问答,我这里基于知识图谱做的,所以势必牵扯到本体建模,由于时 ...
分类:
其他好文 时间:
2019-11-12 00:53:33
阅读次数:
222
引言 人的精力是有限的,这句耳熟能详的话让我对人的精力的研究产生了浓厚的兴趣,人的精力到底是不是有限的?不同的人是不是精力限度不一样?如何能够提高精力限度?如何能节省精力以期做更多的事情?这成为了我研究的方向,于是我以自己为研究对象,通过观察自己来得到研究结果。因为作为一个需要终身学习的专业—软件工 ...
分类:
其他好文 时间:
2019-11-10 16:03:14
阅读次数:
137
1什么是注意力机制? Attention是一种用于提升Encoder + Decoder模型的效果的机制。 2.Attention Mechanism原理 要介绍Attention Mechanism结构和原理,首先需要介绍下Seq2Seq模型的结构。Seq2Seq模型,想要解决的主要问题是,如何把 ...
分类:
其他好文 时间:
2019-11-03 15:16:57
阅读次数:
149
近几年,我的工作、学习效率都非常之低,而我也一直在与此作对抗,却一直没有好的效果。近段时间,由于手机占据了我的大量时间,已经严重影响到了我的工作和生活,我才意识到问题,或许我应该减少使用手机的时间。手机便是让我走向注意力涣散之路的罪魁祸首。 我突然意识到,“我”应该多关注我,站在旁人冷眼看我的角度, ...
分类:
其他好文 时间:
2019-10-31 10:39:45
阅读次数:
81
https://www.jianshu.com/p/b31989094576 https://baijiahao.baidu.com/s?id=1595982547904588357&wfr=spider&for=pc https://know.baidu.com/question/808a90f1 ...
分类:
其他好文 时间:
2019-10-30 13:11:01
阅读次数:
92