前言 最基础的seq2seq模型包含了三个部分，即encoder、decoder以及连接两者的中间状态向量，encoder通过学习输入，将其编码成一个固定大小的状态向量s，继而将s传给decoder，decoder再通过对状态向量s的学习来进行输出。 图中每个box代表一个rnn单元，通常是lstm ...
分类：
Web程序 时间：
2017-10-10 11:24:29
阅读次数：
243
Long Short Term 网络—— 一般就叫做 LSTM ——是一种 RNN 特殊的类型，可以学习长期依赖信息。LSTM 由Hochreiter & Schmidhuber (1997)提出，并在近期被Alex Graves进行了改良和推广。在很多问题，LSTM 都取得相当巨大的成功，并得到了 ...
分类：
其他好文 时间：
2017-10-09 11:00:52
阅读次数：
294
特征处理 在文本挖掘中做了很大的努力，比如提取关键词、情感分析、word embedding聚类之类都尝试过，但效果都不是很好, 对于文本的特征的建议还是去找出一些除了停用词以外的高频词汇，寻找与这个房屋分类问题的具体联系。 到了头疼的部分了，数据有了，我们得想办法从数据里面拿到有区分度的特征。 比 ...
分类：
其他好文 时间：
2017-10-02 09:31:33
阅读次数：
160
数学基础与计算机基础 算法基础方面 牛顿法、随机梯度下降法、拟牛顿法、BFGS 传统机器学习 深度学习 CNN-基础学习与应用 十一期间 RNN 算法应用方面 工程方面 kaggle 十一期间把第一个项目流程完整走下来 java hadoop spark mapreduce c++? http:// ...
分类：
其他好文 时间：
2017-09-29 11:00:23
阅读次数：
167
本教程的目的是重现 Zaremba et al., 2014 的成果，他们在 PTB 数据集上得到了很棒的结果。 教程文件 本教程使用的下面文件的目录是 models/rnn/ptb: 下载及准备数据 本教程需要的数据在 data/ 路径下，来源于 Tomas Mikolov 网站上的 PTB 数据 ...
分类：
其他好文 时间：
2017-09-25 14:31:11
阅读次数：
161
导读 目前采用编码器-解码器 (Encode-Decode) 结构的模型非常热门，是因为它在许多领域较其他的传统模型方法都取得了更好的结果。这种结构的模型通常将输入序列编码成一个固定长度的向量表示，对于长度较短的输入序列而言，该模型能够学习出对应合理的向量表示。然而，这种模型存在的问题在于：当输入序 ...
分类：
其他好文 时间：
2017-09-22 11:59:01
阅读次数：
205
循环神经网络(RNN) 人们的每次思考并不都是从零开始的。比如说你在阅读这篇文章时，你基于对前面的文字的理解来理解你目前阅读到的文字，而不是每读到一个文字时，都抛弃掉前面的思考，从头开始。你的记忆是有持久性的。 传统的神经网络并不能如此，这似乎是一个主要的缺点。例如，假设你在看一场电影，你想对电影里 ...
分类：
其他好文 时间：
2017-09-21 23:30:23
阅读次数：
217
1.实现原理 IOC:控制反转，指的是对象创建权反转（交给）Spring，作用是实现了程序的解耦合。 2.实现步骤 (1) 下载jar包（参见开发库/spring） (2) 创建web项目，导入jar包 (3) 书写配置文件，并注册对象到容器中 Xml文件名字与位置任意，建议放到src目录下起名为a ...
分类：
编程语言 时间：
2017-09-18 22:25:48
阅读次数：
419
深度学习（三十三）CRF as RNN语义分割-未完待续 http://blog.csdn.net/hjimce/article/details/50888915 ...
分类：
其他好文 时间：
2017-09-18 17:18:48
阅读次数：
151
Pytorch是torch的Python版本，对TensorFlow造成很大的冲击，TensorFlow无疑是最流行的，但是Pytorch号称在诸多性能上要优于TensorFlow，比如在RNN的训练上，所以Pytorch也吸引了很多人的关注。之前有一篇关于TensorFlow实现的CNN可以用来做 ...
分类：
其他好文 时间：
2017-09-16 13:36:46
阅读次数：
406
