码迷,mamicode.com
首页 > 其他好文 > 详细

使用github--stanfordnlp--glove训练自己的数据词向量

时间:2020-02-23 20:16:50      阅读:154      评论:0      收藏:0      [点我收藏+]

标签:img   下载地址   mic   demo   git   bsp   ast   vector   orm   

1.准备语料

准备好自己的语料,保存为txt,每行一个句子或一段话,注意要分好词。将分好词的语料保存为×××.txt

2.准备源码

下载地址:https://github.com/stanfordnlp/GloVe,解压后将语料×××.txt添加到GloVe-master文件夹下

3.修改训练语料地址

打开demo.sh文件,由于默认是下载TXT8作为语料,故将这段代码删除,并修改CORPUS=×××.txt,最终文件内容如下:

技术图片

其他应该都可以自行修改。

 

4.执行

打开终端,进入GloVe-master文件后:

(1)make

技术图片

 

 

(2)demo.sh

技术图片

 

技术图片

 

 

5.修改词向量文件

训练后会得到vetors.txt,打开后在第一行加上vacob_size vector_size,这样才能用word2vec的load函数加载成功

第一个数指明一共有多少个向量,第二个数指明每个向量有多少维

 

6.加载使用巽寮的词向量

1 from gensim.models import Word2Vec  
2   
3 model = Word2Vec.load_word2vec_format(‘vectors.txt’, binary=False) 

接下来的使用就和word2vec一样

 

使用github--stanfordnlp--glove训练自己的数据词向量

标签:img   下载地址   mic   demo   git   bsp   ast   vector   orm   

原文地址:https://www.cnblogs.com/dhName/p/12353339.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!