ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

2024-07-14 1353阅读

一、什么是IK分词器

所谓分词,即把一段中文或者别的划分成一个个的关键字,我们在搜索时会把自己的信息进行分词,会把数据库中或者索引库中的数据进行分词,然后进行一个匹配的操作,默认的中文分词器是将每一个字看成一个词,比如“我爱中国”会被分成“我”、“爱”、“中”、“国”,这显然是不符合要求的,所以我们需要安装中文分词器IK来解决这个问题!

二、IK分词器的分词算法

1、ik__smart最少切分

2、ik_max_word最细粒度划分

三、安装IK

1、官网地址:GitHub - medcl/elasticsearch-analysis-ik: The IK Analysis plugin integrates Lucene IK analyzer into elasticsearch, support customized dictionary.

2、下载完毕之后,放入我们的elasticsearch的插件文件夹中

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

3、重启观察Elasticsearch

可以看到我们es启动的时候,加载了刚刚解压的ik插件 ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

4、也可以通过ES的bin下的elasticsearch-plugin.bat查看安装的插件

(1)在bin目录下,打开cmd输入命令

elasticsearch-plugin list

(2)可以查看当前安装的插件有哪些

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

5、使用kibana测试

(1)ik__smart最少切分:根据字典的配置,尽量少的对文档进行拆分

GET _analyze:这是通过RestFul风格请求分词器

“analyzer”:表示请求的分词要求(选择最少切分还是最细粒度!)

“text”:表示要分词的文本

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

(2)ik_max_word最细粒度划分:根据词库中的字典,最大程度的对文档内容进行拆分

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

四、配置IK分词器字典

假如我想对以下的内容进行分词,我不希望“长江东逝水”分开,这个时候就需要我们自己去配置一下属于我们自己的字典了

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

配置方法:

1、打开IK分词器的config配置文件夹

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

2、查看IKAnalyzer.cfg.xml配置文件

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

3、在目录下新建一个文件,后缀为.dic,把我们想配置的字典内容填进去
如果我们不希望把某个词给我拆开了,那么我就可以通过编写自己的配置字典,把文本输入进去,绑定到IKAnalyzer.cfg.xml配置文件中即可!

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

4、把我们自己配置的字典注入进来

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

5、重启ES和kibana

(1)观察ES细节,我们自己编写的字典被加载进来了!

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

(2)重启kibana即可

6、测试重新使用最少切分的算法,测试“滚滚长江东逝水”,是否把我们的“长江东逝水”拼接在一起了

成功!

ElasticSearch篇——认识、安装和使用IK分词器插件,一篇文章带你彻底拿下!

将来我们所有需要自己配置特定的分词效果,直接在我们自己定义的dic文件中进行配置即可!!!!!!记得绑定到IKAnalyzer.cfg.xml配置文件中哦

至此,恭喜你已经掌握了安装和使用IK分词器,掌握了分词的基本规则。后续还会持续更新关于ES相关技术点,敬清期待~~~

VPS购买请点击我

免责声明:我们致力于保护作者版权,注重分享,被刊用文章因无法核实真实出处,未能及时与作者取得联系,或有版权异议的,请联系管理员,我们会立即处理! 部分文章是来自自研大数据AI进行生成,内容摘自(百度百科,百度知道,头条百科,中国民法典,刑法,牛津词典,新华词典,汉语词典,国家院校,科普平台)等数据,内容仅供学习参考,不准确地方联系删除处理! 图片声明:本站部分配图来自人工智能系统AI生成,觅知网授权图片,PxHere摄影无版权图库和百度,360,搜狗等多加搜索引擎自动关键词搜索配图,如有侵权的图片,请第一时间联系我们,邮箱:ciyunidc@ciyunshuju.com。本站只作为美观性配图使用,无任何非法侵犯第三方意图,一切解释权归图片著作权方,本站不承担任何责任。如有恶意碰瓷者,必当奉陪到底严惩不贷!

目录[+]