一、什么是seq2seq模型 seq2seq全称为：sequence to sequence ，是2014年被提出来的一种Encoder-Decoder结构。其中Encoder是一个RNN结构（LSTM、GRU、RNN等）。 主要思想是输入一个序列，通过encoder编码成一个语义向量c（conte ...
分类：
其他好文 时间：
2018-05-26 13:25:45
阅读次数：
402
基于PaddlePaddle框架利用RNN（循环神经网络）生成古诗句 在本项目中，将使用PaddlePaddle实现循环神经网络模型（即RNN模型，以下循环神经网络都称作RNN）,并实现基于RNN语言模型进行诗句的生成。 本项目利用全唐诗数据集对RNN语言模型进行训练，能够实现根据输入的前缀诗句，自 ...
分类：
其他好文 时间：
2018-05-26 01:13:56
阅读次数：
297
链接：https://mp.weixin.qq.com/s/BEjj5zJG3QmxvQiqs8P4-w softmax CRF主要用于序列标注问题，可以简单理解为是给序列中的每一帧，既然是分类，很自然想到将这个序列用CNN或者RNN进行编码后，接一个全连接层用softmax激活，如下图所示 逐帧s ...
分类：
其他好文 时间：
2018-05-22 17:18:18
阅读次数：
6543
一、单层网络 单层网络就是输入一个x，经过神经元的变换，输出一个y 二、RNN 有很多种序列输入的数据，如： 自然语言处理问题。x1可以看做是第一个单词，x2可以看做是第二个单词，依次类推。 语音处理。此时，x1、x2、x3……是每帧的声音信号。 时间序列问题。例如每天的股票价格等 序列形的数据就不 ...
分类：
其他好文 时间：
2018-05-21 14:30:55
阅读次数：
178
LSTM 网络 Long Short Term 网络—— 一般就叫做 LSTM ——是一种 RNN 特殊的类型，可以学习长期依赖信息。LSTM 由Hochreiter & Schmidhuber (1997)提出，并在近期被Alex Graves进行了改良和推广。在很多问题，LSTM 都取得相当巨大 ...
分类：
其他好文 时间：
2018-05-21 00:00:13
阅读次数：
265
一 初始化RNN 上一节中介绍了 通过cell类构建RNN的函数，其中有一个参数initial_state，即cell初始状态参数，TensorFlow中封装了对其初始化的方法。 1.初始化为0 对于正向或反向，第一个cell传入时没有之前的序列输出值，所以需要对其进行初始化。一般来讲，不用刻意取指 ...
分类：
其他好文 时间：
2018-05-17 22:02:55
阅读次数：
775
这篇文章是论文‘Chinese Poetry Generation with Recurrent Neural Network’的阅读笔记，这篇论文2014年发表在EMNLP。 ABSTRACT 这篇论文提出了一个基于RNN的中国古诗生成模型。 PROPOSED METHOD 第一句的生成 第一句的 ...
分类：
Web程序 时间：
2018-05-12 20:34:50
阅读次数：
232
之前在看Andrew Ng 的deep learning 视频教程,在RNN 这一节的课后作业里,实现了一个基于 "deepjazz" 的music generator,实验之后发现产生的结果还有模有样的,这激发了我的兴趣,于是我就查阅了一些资料,看看音乐的自动生 ...
分类：
其他好文 时间：
2018-05-08 19:21:48
阅读次数：
781
导入 Maven 依赖： Controller: sql语句： jsp： ...
分类：
编程语言 时间：
2018-05-08 17:34:42
阅读次数：
175
1. 概况 1.1 任务 口语理解（Spoken Language Understanding, SLU） 作为语音识别与自然语言处理之间的一个新兴领域，其目的是为了让计算机从用户的讲话中理解他们的意图。SLU是口语对话系统（ "Spoken Dialog Systems" ）的一个非常关键的环节。 ...
分类：
其他好文 时间：
2018-05-02 02:55:43
阅读次数：
194
