双向循环神经网络(Bidirectional Recurrent Neural Networks,Bi-RNN)，Schuster、Paliwal，1997年首次提出，和LSTM同年。Bi-RNN，增加RNN可利用信息。普通MLP，数据长度有限制。RNN，可以处理不固定长度时序数据，无法利用历史输入 ...
分类：
其他好文 时间：
2017-08-12 11:44:35
阅读次数：
449
http://www.cnblogs.com/YiXiaoZhou/p/6058890.html RNN求解过程推导与实现 RNN LSTM BPTT matlab code opencv code RNN LSTM BPTT matlab code opencv code BPTT,Back Pr ...
分类：
其他好文 时间：
2017-08-08 14:06:53
阅读次数：
191
这次和BOSS讨论起AI 方面的东西，说到机器能够经过训练识别静态图片。被同事和老板反问一句那对于动态视频的理解呢？ 当时也是一下子焖了。回来路上就想到了LSTM 网络不就是为解决这些需要关联前后场景的东西诞生的吗，而且已经很成熟了。 长短期记忆网络作为RNN的一个分支是十分成功的，特别在自然语言处 ...
分类：
其他好文 时间：
2017-08-05 09:53:20
阅读次数：
115
1. 经常使用类 class tf.contrib.rnn.BasicLSTMCell BasicLSTMCell 是最简单的一个LSTM类。没有实现clipping，projection layer。peep-hole等一些LSTM的高级变种，仅作为一个主要的basicline结构存在，假设要使用 ...
分类：
其他好文 时间：
2017-08-04 20:30:01
阅读次数：
596
之前在看《Semi-supervised Sequence Learning》这篇文章的时候对seq2seq半监督的方式做文本分类的方式产生了一定兴趣，于是开始简单研究了seq2seq。先来简单说一下这篇paper的内容： 创立的新形式Sequence AutoEncoder LSTM(SA-LST ...
分类：
数据库 时间：
2017-07-15 19:48:25
阅读次数：
3931
概述 LSTM是RNN的增强版，1.RNN能完成的工作LSTM也都能胜任且有更好的效果；2.LSTM解决了RNN梯度消失或爆炸的问题，进而可以具有比RNN更为长时的记忆能力。LSTM网络比较复杂，而恰好找到一篇不错的介绍文章，和课程的讲述范围差不多，所以这里摘下来（自己截图记录好麻烦），另外找到一篇 ...
分类：
其他好文 时间：
2017-07-15 14:59:47
阅读次数：
782
在前几天的讨论会上，有师兄指出原来的方法实在是很难训练，所以我改进了音乐生成的思路。 首先，我用LSTM生成的一定是一段音乐的序列化表达，那么我就可以用成型的一些数据集去训练LSTM。为了避免生成的音乐与现有的音乐有大量重复，我们可以考虑更改LSTM使其更加“健忘”，这样应该能解决一部分问题。接下来 ...
分类：
编程语言 时间：
2017-07-12 23:05:35
阅读次数：
305
本文主要对现有的LSTM相关资源进行总结，希望能对大家有所帮助： 1.http://colah.github.io/posts/2015-08-Understanding-LSTMs/ 《Understanding LSTM Networks》由colah在2015年8月执笔完成，作者浅显易懂地介绍 ...
分类：
其他好文 时间：
2017-07-10 14:27:06
阅读次数：
206
/* 版权声明：能够随意转载，转载时请标明文章原始出处和作者信息 .*/ author: 张俊林 关于社区问答系统的问题背景，我们在之前的“利用卷积神经网络构造社区问答系统”一文里已经说明得非常清楚，本文就不再赘述，不清楚背景的读者可自行參照上文。我们这些相关的研发工作主要是为了开发畅捷通“会计家园 ...
分类：
其他好文 时间：
2017-07-10 14:25:15
阅读次数：
2096
我之前就注意到，深度学习和音乐结合，尤其是从乐理出发进行结合（而不是纯粹的进行音乐生成），是一个尚未被深度挖掘的全新领域。可想而知，这个方向符合我要求的数据肯定是要自己搜集了。 自己搜集的数据，在量上就已经输了，只是考虑到我们要做的任务并不复杂，准确的说只是一个分类器，再加一个LSTM而已。对于这个 ...
分类：
编程语言 时间：
2017-07-07 13:17:54
阅读次数：
341
