主要是用函数torch.nn.utils.rnn.PackedSequence()和torch.nn.utils.rnn.pack_padded_sequence()以及torch.nn.utils.rnn.pad_packed_sequence()来进行的,分别来看看这三个函数的用法。 1、tor ...
分类:
其他好文 时间:
2017-12-17 15:59:22
阅读次数:
206
非线性回归问题的参数求解,反向求导基本流程。Variable 计算时, 它在后台一步步默默地搭建着一个庞大的系统, 叫做计算图, computational graph. 这个图将所有的计算步骤 (节点) 都连接起来, 最后进行误差反向传递的时候, 一次性将所有 variable 里面的修改幅度 ( ...
分类:
其他好文 时间:
2017-12-09 18:12:54
阅读次数:
190
转自:https://sherlockliao.github.io/2017/07/10/backward/ backward只能被应用在一个标量上,也就是一个一维tensor,或者传入跟变量相关的梯度。 特别注意Variable里面默认的参数requires_grad=False,所以这里我们要重 ...
分类:
其他好文 时间:
2017-12-09 16:51:50
阅读次数:
195
首先,我们定义好一个LSTM网络,然后给出一个句子,每个句子都有很多个词构成,每个词可以用一个词向量表示,这样一句话就可以形成一个序列,我们将这个序列依次传入LSTM,然后就可以得到与序列等长的输出,每个输出都表示的是一种词性,比如名词,动词之类的,还是一种分类问题,每个单词都属于几种词性中的一种。 ...
分类:
其他好文 时间:
2017-12-08 23:12:09
阅读次数:
248
深度学习框架哪家强:TensorFlow?Caffe?MXNet?Keras?PyTorch?对于这几大框架在运行各项深度任务时的性能差异如何,各位读者不免会有所好奇。 微软数据科学家Ilia Karmanov最新测试的结果显示,亚马逊MXNet在CNN、RNN与NLP情感分析任务上性能强劲,而Te ...
分类:
Web程序 时间:
2017-12-02 22:07:12
阅读次数:
387
执行安装命令 报错如下 可以知道是pip的版本太旧了,因此要更新pip的版本,用如下命令 但是又报依赖关系出现问题 在安装是无法识别 ConfigParser一些包无法正确安装引起的,原因其实是我之前将python设为系统的默认版本, 在Python 3中, ConfigParser 被重命名为 c ...
分类:
其他好文 时间:
2017-12-01 18:39:40
阅读次数:
1068
词向量:编码词汇级别的信息 url:http://pytorch.org/tutorials/beginner/nlp/word_embeddings_tutorial.html?highlight=lookup 词嵌入 词嵌入是稠密向量,每个都代表了一个单词表里面的一个单词。NLP中每个Featu ...
分类:
其他好文 时间:
2017-11-30 19:14:37
阅读次数:
143
代码: https://github.com/JiJingYu/concat_dataset Demo特点 该代码基于自行编写的H5Imageset类与pytorch中的ConcatDataset接口,主要有以下特点: 有效利用了hdf5读取数据时直接与硬盘交互,无需载入整个数据集到内存中的优势,降 ...
分类:
其他好文 时间:
2017-11-18 11:06:16
阅读次数:
185
pytorch的TensorDataset接口 用于hdf5的H5Dataset接口 对应的DataLoader(把TensorDataset改成H5Dataset即可) ...
分类:
其他好文 时间:
2017-11-16 23:57:23
阅读次数:
1453
黄色:重点 粉色:不懂 Torch 中的数学运算 其实 torch 中 tensor 的运算和 numpy array 的如出一辙, 我们就以对比的形式来看. 如果想了解 torch 中其它更多有用的运算符, API就是你要去的地方. 除了简单的计算, 矩阵运算才是神经网络中最重要的部分. 所以我们 ...
分类:
其他好文 时间:
2017-11-07 20:46:48
阅读次数:
234