迁移学习是谷歌、Salesforce、IBM和微软Azure提供的多种自动机器学习管理服务的基础。由谷歌提出的BERT模型以及由Sebastian Ruder和Jeremy Howard共同提出的ULMFIT(通用语言模型微调文本分类)模型都重点突出了迁移学习，可见迁移学习是目前NLP（自然语言处理... ...
分类：
Web程序 时间：
2019-05-09 15:14:27
阅读次数：
255
近年来，注意力（Attention）机制被广泛应用到基于深度学习的自然语言处理(NLP)各个任务中。随着注意力机制的深入研究，各式各样的attention被研究者们提出。在2017年6月google机器翻译团队在arXiv上放出的《Attention is all you need》论文受到了大家广 ...
分类：
编程语言 时间：
2019-04-30 16:55:57
阅读次数：
1024
自然语言处理是人工智能领域的一个重要的研究方向，是计算机科学与语言学的交叉学科。随着互联网的快速发展，网络文本尤其是用户生成的文本呈爆炸性增长，为自然语言处理带来了巨大的应用需求。但是由于自然语言具有歧义性、动态性和非规范性，同时语言理解通常需要丰富的知识和一定的推理能力，为自然语言处理带来了极大的 ...
分类：
编程语言 时间：
2019-04-25 00:54:13
阅读次数：
2170
前言 回到顶部 自然语言处理（Natural Language Processing）是计算科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此，这一领域的研究将涉及自然语言，即人们日 ...
分类：
编程语言 时间：
2019-04-21 19:55:22
阅读次数：
834
1. 引言 在介绍论文之前，我将先简单介绍一些相关背景知识。首先是语言模型（Language Model），语言模型简单来说就是一串词序列的概率分布。具体来说，语言模型的作用是为一个长度为m的文本确定一个概率分布P，表示这段文本存在的可能性。在实践中，如果文本的长度较长，P(wi | w1, w2, ...
分类：
编程语言 时间：
2019-04-19 12:02:30
阅读次数：
198
近年来，自然语言处理（NLP）的应用程序已经无处不在。NLP使用率的快速增长主要归功于通过预训练模型实现的迁移学习概念，迁移学习本质上是在一个数据集上训练模型，然后使该模型能够适应在不同的数据集上执行不同的NLP操作。 ...
分类：
其他好文 时间：
2019-04-18 17:09:46
阅读次数：
164
迁移学习近年来在图形领域中得到了快速的发展，主要在于某些特定的领域不具备足够的数据，不能让深度模型学习的很好，需要从其它领域训练好的模型迁移过来，再使用该模型进行微调，使得该模型能很好地拟合少量数据的同时又具备较好的泛化能力（不过拟合）。 在迁移学习任务中，需要事先定义一组源数据集合，使用该集合训练 ...
分类：
编程语言 时间：
2019-04-15 20:25:58
阅读次数：
291
我们做自然语言处理的，主要是进行文本分析，作为人工智能的领域之一，也一定会应用深度神经网络进行处理。 近年来快速发展的深度学习技术为解决自然语言处理问题的解决提供了一种可能的思路，已成为有效推动自然语言处理技术发展的变革力量。 《基于深度学习的自然语言处理》重点介绍了神经网络模型在自然语言处理中的应 ...
分类：
编程语言 时间：
2019-04-05 00:41:38
阅读次数：
391
机器学习介绍 机器学习的概念 机器学习要解决的问题分类 使用机器学习解决问题的一般性步骤 什么是机器学习 机器学习是一个计算机程序，针对某个特定的任务 ，从经验中学习，并且越做越好。 谁掌握的数据量大 、质量高，谁就占据了机器学习和人工智能领域最有利的资本。 机器学习有什么用 语音识别、自然语言处理 ...
分类：
编程语言 时间：
2019-04-04 20:21:03
阅读次数：
203
参考书 《TensorFlow：实战Google深度学习框架》（第2版） 我只能说这本书太烂了，看完这本书中关于自然语言处理的内容，代码全部敲了一遍，感觉学的很绝望，代码也运行不了。 具体原因，我也写过一篇博客diss过这本书。可是既然学了，就要好好学呀。为了搞懂自然语言处理，我毅然决然的学习了网上 ...
分类：
编程语言 时间：
2019-04-03 16:41:02
阅读次数：
461
