1。 项目的RNN模型： 项目中的输入x是这样的： ...
分类：
其他好文 时间：
2019-02-22 21:18:24
阅读次数：
130
又名： 、`tf.contrib.rnn.LSTMCell` 参见: "tf.nn.rnn_cell.LSTMCell" 输出： output：LSTM单元输出，与 的区别在于该输出又经过激活以及和一个sigmoid函数输出相乘。shape: [batch_size,num_units] new_s ...
分类：
移动开发 时间：
2019-02-15 18:02:07
阅读次数：
188
1. 前言 之前我们对RNN模型做了总结。由于RNN也有梯度消失的问题，因此很难处理长序列的数据，大牛们对RNN做了改进，得到了RNN的特例LSTM（Long Short Term Memory），它可以避免常规RNN的梯度消失，因此在工业界得到了广泛的应用。下面我们就对LSTM模型做一个总结。 2 ...
分类：
其他好文 时间：
2019-02-12 20:10:12
阅读次数：
297
python编程语言无疑是人工智能最重要的语言之一，但是其中语音识别是当前人工智能比较热门的方向，百度的小度机器人、阿里的天猫精灵等其他各大公司都推出了各自的语音助手机器人，其识别算法主要是由RNN、LSTM、DNN-HMM等机器学习和深度学习技术做支撑。
分类：
编程语言 时间：
2019-02-12 19:04:15
阅读次数：
230
在利用tensorflow框架进行模型训练的时候，有时我们需要多次训练对结果求均值来得到一个均衡的评测结论。比如训练十次求平均值。但是tf的本质就是图，当变量第一次定义使用后，第二次再使用就是提示： ValueError: Variable rnn/basic_rnn_cell/kernel alr ...
分类：
其他好文 时间：
2019-02-12 17:23:52
阅读次数：
1230
咳咳 先对18年的自己说一声感谢。 辛苦了~ 从大数据开发里一路走来，从小白变成可以独当一面（咕咕）。开森~ 一直忙忙碌碌，不敢停下脚步。最近，开始觉得要做下总结了。 【技术】 hivesql spark streaming CNN RNN GAN 【平台】 hadoop MapReduce yar ...
分类：
其他好文 时间：
2019-02-07 20:43:56
阅读次数：
216
循环神经网络 (Recurrent Neural Network，RNN) 是一类具有短期记忆能力的神经网络，因而常用于序列建模。本篇先总结 RNN 的基本概念，以及其训练中时常遇到梯度爆炸和梯度消失问题，再引出 RNN 的两个主流变种 —— LSTM 和 GRU。 Vanilla RNN Vani ...
分类：
其他好文 时间：
2019-02-05 00:29:42
阅读次数：
287
写作目的：旨在将所有深度学习相关的东西进行一个总结，把能想到的东西先写下来，完了之后再进行调序。 专题一：多层感知机（传统概念的神经网络） 专题二：什么是卷积神经网络(CNN), 循环神经网络(RNN) 专题三：如何优化参数（需要定义损失函数，有哪些损失函数？怎么优化？） 专题四：计算机视觉（low ...
分类：
其他好文 时间：
2019-01-21 22:09:31
阅读次数：
178
RNN 循环神经网络 BF 求导过程 所有的RNN都具有一种重复神经网络模块的链式形式。在标准RNN中，这个重复的结构模块只有一个非常简单的结构，例如一个tanh层 在时间视角上的显示为下图： 求导BP 更新参数值 整体误差E等于每个时刻E_t的误差之和 整体损失对U/V/W进行求偏导 $$ ΔU= ...
分类：
其他好文 时间：
2019-01-21 21:11:53
阅读次数：
492
一 RNN概述 前面我们叙述了BP算法, CNN算法, 那么为什么还会有RNN呢?? 什么是RNN, 它到底有什么不同之处? RNN的主要应用领域有哪些呢?这些都是要讨论的问题. 1) BP算法,CNN之后, 为什么还有RNN? 细想BP算法,CNN(卷积神经网络)我们会发现, 他们的输出都是只考虑 ...
分类：
其他好文 时间：
2019-01-20 19:56:21
阅读次数：
632
