码迷,mamicode.com
首页 >  
搜索关键字:注意力    ( 686个结果
SAGAN:Self-Attention Generative Adversarial Networks - 1 - 论文学习
Abstract 在这篇论文中,我们提出了自注意生成对抗网络(SAGAN),它是用于图像生成任务的允许注意力驱动的、长距离依赖的建模。传统的卷积GANs只根据低分辨率图上的空间局部点生成高分辨率细节。在SAGAN中,可以使用来自所有特征位置的线索生成细节。此外,判别器可以检查图像中较远部分的细节特征 ...
分类:Web程序   时间:2019-11-28 19:06:50    阅读次数:149
Seq2Seq模型与注意力机制
Seq2Seq模型 基本原理 核心思想:将一个作为输入的序列映射为一个作为输出的序列 编码输入 解码输出 解码第一步,解码器进入编码器的最终状态,生成第一个输出 以后解码器读入上一步的输出,生成当前步输出 组成部件: Encoder Decoder 连接两者的固定大小的State Vector 解码 ...
分类:其他好文   时间:2019-11-24 17:27:19    阅读次数:162
读书自学的方法(不断更新)
读书自学的方法(不断更新) 欲速则不达 上课2个小时,有些知识点讲得慢,并不是因为老师怕你听不懂,而是把握住了节奏,不会导致长时间集中注意力而厌倦。 故自学,读书,要控制速度,太快了反而不好,当觉得学不动了就要休息。学习的密度要均匀,有进有停,不会很快厌倦,反而能学得更快。 ...
分类:其他好文   时间:2019-11-23 21:49:37    阅读次数:56
bert系列一:《Attention is all you need》论文解读
论文创新点: 多头注意力 transformer模型 Transformer模型 上图为模型结构,左边为encoder,右边为decoder,各有N=6个相同的堆叠。 encoder 先对inputs进行Embedding,再将位置信息编码进去(cancat方式),位置编码如下: 然后经过多头注意力 ...
分类:其他好文   时间:2019-11-15 12:13:50    阅读次数:90
抑郁症:2019年11月13日
药物反应记录 剧烈恶心,呕吐感 没有昨天手抖的呢么严重了 轻微头疼 注意力难以集中 早上 昨天我不知道我为什么要拍一张黑白的照片。 下午 有情绪波动,不大。 我没有去上体育课。 恶心感严重。 我从学校出来回家了,在车上莫名其妙的就流起了眼泪。 今天天气很好,真的很好。 晚上 虽然恶心感很严重,吃不下 ...
分类:其他好文   时间:2019-11-13 23:46:10    阅读次数:78
[NLP] 基于知识图谱的视觉问答
基于知识图谱的视觉问答 前言 我们知道现在主流的VQA都是神经网络,特征序列输入RNN或者LSTM,基于注意力机制这样做一套,经典的如Show Attend and Tell、Top down Attention等,都是基于神经网络做的视觉问答,我这里基于知识图谱做的,所以势必牵扯到本体建模,由于时 ...
分类:其他好文   时间:2019-11-12 00:53:33    阅读次数:222
关于大脑休息之睡觉与冥想方式对比
引言 人的精力是有限的,这句耳熟能详的话让我对人的精力的研究产生了浓厚的兴趣,人的精力到底是不是有限的?不同的人是不是精力限度不一样?如何能够提高精力限度?如何能节省精力以期做更多的事情?这成为了我研究的方向,于是我以自己为研究对象,通过观察自己来得到研究结果。因为作为一个需要终身学习的专业—软件工 ...
分类:其他好文   时间:2019-11-10 16:03:14    阅读次数:137
seq2seq+attention解读
1什么是注意力机制? Attention是一种用于提升Encoder + Decoder模型的效果的机制。 2.Attention Mechanism原理 要介绍Attention Mechanism结构和原理,首先需要介绍下Seq2Seq模型的结构。Seq2Seq模型,想要解决的主要问题是,如何把 ...
分类:其他好文   时间:2019-11-03 15:16:57    阅读次数:149
【自我】为减少焦虑做的一点行动
近几年,我的工作、学习效率都非常之低,而我也一直在与此作对抗,却一直没有好的效果。近段时间,由于手机占据了我的大量时间,已经严重影响到了我的工作和生活,我才意识到问题,或许我应该减少使用手机的时间。手机便是让我走向注意力涣散之路的罪魁祸首。 我突然意识到,“我”应该多关注我,站在旁人冷眼看我的角度, ...
分类:其他好文   时间:2019-10-31 10:39:45    阅读次数:81
在家学习VS在咖啡馆学习
https://www.jianshu.com/p/b31989094576 https://baijiahao.baidu.com/s?id=1595982547904588357&wfr=spider&for=pc https://know.baidu.com/question/808a90f1 ...
分类:其他好文   时间:2019-10-30 13:11:01    阅读次数:92
686条   上一页 1 ... 8 9 10 11 12 ... 69 下一页
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!