码迷,mamicode.com
首页 > 其他好文 > 详细

ElasticSearch速学 - IK中文分词器远程字典设置

时间:2017-09-27 11:31:31      阅读:1238      评论:0      收藏:0      [点我收藏+]

标签:没有   github   size   ==   encoding   value   single   sea   custom   

前面已经对”IK中文分词器“有了简单的了解: 
技术分享

但是可以发现不是对所有的词都能很好的区分,比如: 
技术分享 
逼格这个词就没有分出来。

词库

实际上IK分词器也是根据一些词库来进行分词的,我们可以丰富这个词库。 
IK分词器(IK Analysis for Elasticsearch)给了我们一个基本的配置: 
https://github.com/medcl/elasticsearch-analysis-ik 
技术分享

修改我们es实例中ik插件的配置:

cd elasticsearch-5.3.0/plugins/ik/config/

技术分享

main.dic是住词库,stopword是停用词库(把一些错误的分词加入进来,之后不会再被分词了);custom目录中是我们的自定义词库。 
这些词库都是本地词库。可以参考配置文档来设置。

热更新 IK 分词使用方法

官方文档: 
https://github.com/medcl/elasticsearch-analysis-ik 
技术分享

我们来配置一下:

#进入es实例找到ik插件的配置文件
elasticsearch-5.3.0/plugins/ik/config
#编辑配置文件
vi IKAnalyzer.cfg.xml

内容:

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE properties SYSTEM "http://java.sun.com/dtd/properties.dtd">
<properties>
    <comment>IK Analyzer 扩展配置</comment>
    <!--用户可以在这里配置自己的扩展字典 -->
    <entry key="ext_dict">custom/mydict.dic;custom/single_word_low_freq.dic</entry>
     <!--用户可以在这里配置自己的扩展停止词字典-->
    <entry key="ext_stopwords">custom/ext_stopword.dic</entry>
    <!--用户可以在这里配置远程扩展字典 -->
    <entry key="remote_ext_dict">http://10.211.55.13/api/DictApi/GetDictionary</entry>
    <!--用户可以在这里配置远程扩展停止词字典-->
    <!-- <entry key="remote_ext_stopwords">words_location</entry> -->
</properties>

/api/DictApi/GetDictionary:

技术分享

ElasticSearch速学 - IK中文分词器远程字典设置

标签:没有   github   size   ==   encoding   value   single   sea   custom   

原文地址:http://www.cnblogs.com/a-du/p/7600474.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!