1. tf.nn.embedding_lookup(W, X) W的维度为[len(vocabulary_list), 128]， X的维度为[?, 8]，组合后的维度为[?, 8, 128] 代码说明一下：即根据每一行X中的一个数，从W中取出对应行的128个数据，比如X[1, 3]个数据是3062 ...
分类：
其他好文 时间：
2019-03-25 01:06:33
阅读次数：
226
Open domain QA Overview The whole system is consisted with Document Retriever and Document Reader. The Document Retriever returns top five Wikipedia a ...
分类：
其他好文 时间：
2019-02-24 10:27:14
阅读次数：
192
1. 引言 上一篇介绍了 "如何用无监督方法来训练sentence embedding" ，本文将介绍如何利用监督学习训练句子编码器从而获取sentence embedding，包括利用释义数据库PPDB、自然语言推理数据SNLI、以及综合利用监督训练数据和无监督训练数据。 2. 基于释义数据库PP ...
分类：
其他好文 时间：
2019-01-31 19:26:19
阅读次数：
252
BERT预训练模型在诸多NLP任务中都取得最优的结果。在处理文本分类问题时，即可以直接用BERT模型作为文本分类的模型，也可以将BERT模型的最后层输出的结果作为word embedding导入到我们定制的文本分类模型中（如text-CNN等）。总之现在只要你的计算资源能满足，一般问题都可以用BER ...
分类：
其他好文 时间：
2019-01-31 18:19:05
阅读次数：
927
1. 引言 word emedding技术如word2vec，glove等已经广泛应用于NLP，极大地推动了NLP的发展。既然词可以embedding，句子也应该可以（其实， "万物皆可embedding" ，Embedding is All You Need ^_^）。近年来（2014 2018） ...
分类：
其他好文 时间：
2019-01-30 17:16:50
阅读次数：
825
1 TensorFlow使用 分析流程： 1.1 使用gensim加载预训练中文分词embedding 加载预训练词向量模型：https://github.com/Embedding/Chinese-Word-Vectors/ 查看词语的向量模型表示： 维度为300 词语相似度：向量余弦值 最相似的 ...
分类：
编程语言 时间：
2019-01-28 21:08:12
阅读次数：
308
Caffe的全称应该是Convolutional Architecture for Fast Feature Embedding，它是一个清晰、高效的深度学习框架，它是开源的，核心语言是C++，它支持命令行、Python和Matlab接口，它既可以在CPU上运行也可以在GPU上运行。它的licens ...
分类：
其他好文 时间：
2019-01-24 17:19:31
阅读次数：
268
application 应用程式 应用、应用程序 application framework 应用程式框架、应用框架 应用程序框架 architecture 架构、系统架构 体系结构 argument 引数(传给函式的值) arrow operator arrow(箭头)运算子 箭头操作符 asse ...
分类：
其他好文 时间：
2019-01-23 23:28:23
阅读次数：
282
从Word Embedding到Bert模型——自然语言处理预训练技术发展史 深度学习中的注意力机制(2017版) ...
分类：
编程语言 时间：
2019-01-17 22:38:33
阅读次数：
141
原文链接：https://oldpan.me/archives/how to calculate gpu memory 前言 亲，显存炸了，你的显卡快冒烟了！ torch.FatalError: cuda runtime error (2) : out of memory at /opt/conda ...
分类：
其他好文 时间：
2019-01-13 16:08:08
阅读次数：
550
