Word2Vec是词的一种表示，将词以固定的维数的向量表示出来。其优点：基于词袋模型的独热编码方式在判定同义词和相似句子的时候效果不是很好，而Word2Vec充分利用上下文信息，对上下文进行训练，每个向量不在是只有一个位置为1，其余位置为0 的稀疏向量。而是稠密的固定维度的向量。实现方式主要有一下两 ...
分类：
其他好文 时间：
2020-04-14 20:32:10
阅读次数：
82
文本特征提取函数一：CountVectorizer() CountVectorizer()函数只考虑每个单词出现的频率；然后构成一个特征矩阵，每一行表示一个训练文本的词频统计结果。其思想是，先根据所有训练文本，不考虑其出现顺序，只将训练文本中每个出现过的词汇单独视为一列特征，构成一个词汇表(voca ...
分类：
其他好文 时间：
2020-03-25 19:30:46
阅读次数：
128
TF-idf模型：TF表示的是词频：即这个词在一篇文档中出现的频率 idf表示的是逆文档频率， 即log(文档的个数/1+出现该词的文档个数) 可以看出出现该词的文档个数越小，表示这个词越稀有，在这篇文档中也是越重要的 TF-idf： 表示TF*idf, 即词频*逆文档频率 词袋模型不仅考虑了一个词 ...
分类：
其他好文 时间：
2020-03-07 19:08:19
阅读次数：
73
Word2vec，是一群用来产生词向量的相关模型。这些模型为浅而双层的神经网络，用来训练以重新建构语言学之词文本。网络以词表现，并且需猜测相邻位置的输入词，在word2vec中词袋模型假设下，词的顺序是不重要的。训练完成之后，word2vec模型可用来映射每个词到一个向量，可用来表示词对词之间的关系 ...
分类：
其他好文 时间：
2020-02-18 14:49:26
阅读次数：
52
一、实验介绍 实验知识点 使用 Python 从网络上爬取信息的基本方法 处理语料“洗数据”的基本方法 词袋模型搭建方法 简单 RNN 的搭建方法 简单 LSTM 的搭建方法 二、从网络中抓取并处理数据 2.1 引入相关包 下载所需数据并解压 链接：https://pan.baidu.com/s/1 ...
分类：
其他好文 时间：
2020-01-14 21:05:59
阅读次数：
117
目录 机器学习定义 基本概念 机器学习之常见应用框架 机器学习、数据分析、数据挖掘区别与联系 机器学习分类【重要】 机器学习开发流程【重要】 机器学习之商业场景 一、机器学习定义 Machine Learning(ML) is a scientific discipline that deals w ...
分类：
其他好文 时间：
2019-12-21 15:15:33
阅读次数：
148
什么是 token embedding？ 输入一个word，在字典里查找得到它对应的下标就是token，然后用该数字下标去lookup表查找得到该词对应的词向量(词嵌入)就是embedding ...
分类：
其他好文 时间：
2019-10-20 19:59:29
阅读次数：
108
对于数据挖掘，数据准备阶段主要就是进行特征工程。 数据和特征决定了模型预测的上限，而算法只是逼近了这个上限。 好的特征要少而精，这会使模型更简单、更精准。 一、特征构造 1.’常见提取方式 文本数据的特征提取 词袋向量的方式：统计频率 图像数据的特征提取 像素点RGB 用户行为特征提取 特征提取总结 ...
分类：
其他好文 时间：
2019-10-04 09:56:48
阅读次数：
140
本文介绍常见的文本表示模型，One-hot、词袋模型（BOW）、TF-IDF、N-Gram和Word2Vec 一、离散表示 1、One-hot编码 One-hot编码是非常用的方法，我们可以用One-hot编码的方式将句子向量化，大致步骤为： 用构造文本分词后的字典 对词语进行One-hot编码 J ...
分类：
其他好文 时间：
2019-09-05 22:57:26
阅读次数：
1878
''' 自然语言处理（NLP） 词袋模型：一句话的语义很大程度取决于某个单词出现的次数，所以可以把句子中所有可能出现的单词作为特征名， 每一个句子为一个样本，单词在句子中出现的次数为特征值构建数学模型，称为词袋模型。 例如： 1 The ... ...
分类：
编程语言 时间：
2019-07-24 09:27:35
阅读次数：
191
