主要是用函数torch.nn.utils.rnn.PackedSequence()和torch.nn.utils.rnn.pack_padded_sequence()以及torch.nn.utils.rnn.pad_packed_sequence()来进行的,分别来看看这三个函数的用法。 1、tor ...
分类：
其他好文 时间：
2017-12-17 15:59:22
阅读次数：
206
感谢中国人民大学的胡鹤老师，课程容量巨大，收获颇丰。 之前提到的CNN模型主要用到人类的视觉中枢，但其有一劣势，无论是人类的视觉神经还是听觉神经，所接受到的都是一个连续的序列，使用CNN相当于割裂了前后的联系。从而诞生了专门为处理序列的Recurrent Neural Network（RNN），每一 ...
分类：
其他好文 时间：
2017-12-16 20:33:38
阅读次数：
187
感谢中国人民大学的胡鹤老师，课程容量巨大，收获颇丰。 之前提到的CNN模型主要用到人类的视觉中枢，但其有一劣势，无论是人类的视觉神经还是听觉神经，所接受到的都是一个连续的序列，使用CNN相当于割裂了前后的联系。从而诞生了专门为处理序列的Recurrent Neural Network（RNN），每一 ...
分类：
其他好文 时间：
2017-12-16 19:42:30
阅读次数：
154
RNN（Recurrent Neural Networks）循环神经网络 广泛应用于自然语言处理（NLP，Natural Language Processing） Back Propagation Through Time Vanishing gradient problem LSTM 定向循环 参 ...
分类：
其他好文 时间：
2017-12-16 15:58:40
阅读次数：
178
1. 非监督学习 监督学习有数据有标签，目的是学习数据和标签之间的映射关系。而无监督学习只有数据，没有标签，目的是学习数据额隐藏结构。 2. 生成模型（Generative Models） 已知训练数据，根据训练数据的分布（distribution）生成新的样例。 无监督学习中的一个核心问题是估计分 ...
分类：
编程语言 时间：
2017-12-09 18:13:46
阅读次数：
402
实体识别和关系抽取是例如构建知识图谱等上层自然语言处理应用的基础。实体识别可以简单理解为一个序列标注问题：给定一个句子，为句子序列中的每一个字做标注。因为同是序列标注问题，除去实体识别之外，相同的技术也可以去解决诸如分词、词性标注等不同的自然语言处理问题。 说到序列标注直觉是会想到RNN的结构。现在 ...
分类：
其他好文 时间：
2017-12-05 18:52:57
阅读次数：
399
HMM（Hidden Markov Model，隐马尔可夫模型） CRF（Conditional Random Field，条件随机场）， RNN深度学习算法（Recurrent Neural Networks，循环神经网络）。输入条件连续 LSTM（Long Short Term Memory）则 ...
分类：
编程语言 时间：
2017-12-05 17:51:41
阅读次数：
518
深度学习框架哪家强：TensorFlow？Caffe？MXNet？Keras？PyTorch？对于这几大框架在运行各项深度任务时的性能差异如何，各位读者不免会有所好奇。 微软数据科学家Ilia Karmanov最新测试的结果显示，亚马逊MXNet在CNN、RNN与NLP情感分析任务上性能强劲，而Te ...
分类：
Web程序 时间：
2017-12-02 22:07:12
阅读次数：
387
RNN，LSTM，seq2seq等模型广泛用于自然语言处理以及回归预测，本期详解seq2seq模型以及attention机制的原理以及在回归预测方向的运用。 ...
分类：
其他好文 时间：
2017-11-14 19:38:57
阅读次数：
661
《The Unreasonable Effectiveness of Recurrent Neural Networks》（《递归神经网络不可思议的有效性》） 链接：http://karpathy.github.io/2015/05/21/rnn-effectiveness/ http://blog ...
分类：
其他好文 时间：
2017-10-30 19:51:26
阅读次数：
200
