如何把词库中没有的词语加进扩展词典中?
admin
2023-02-16 13:20:03
0

扩展词库

对于某些特定行业的词语在词库中没有这样的词语,我们可以通过扩展词库来实现

比如凯悦这个词语,在行业内我们希望这是以一个词语的形式出现,但实际情况IK分词器却不如人意

GET /operation/_analyze
{
  "analyzer": "ik_smart",
  "text": "凯悦"
}

结果

{
  "tokens" : [
    {
      "token" : "凯",
      "start_offset" : 0,
      "end_offset" : 1,
      "type" : "CN_CHAR",
      "position" : 0
    },
    {
      "token" : "悦",
      "start_offset" : 1,
      "end_offset" : 2,
      "type" : "CN_CHAR",
      "position" : 1
    }
  ]
}

这样我们就需要进行词库的扩展,具体方法如下

  • 进入容器

    docker exec -it es(容器名称) /bin/bash
  • 进入ES的插件文件夹(plugins)

    cd plugins
  • 因为我们安装插件的时候在该文件中创建了IK文件夹,具体安装可以移步:https://blog.51cto.com/9844951/2472968

    cd ik/config
  • 创建新文件以存放扩展词语

    vi new_wore.dic
  • 在IK分词器的配置文件中加入该文件IKAnalyzer.cfg.xml,用于ES加载使用

    
    
    
    IK Analyzer 扩展配置
    
    
     
    
    
    
    
    
    

    上面内容是IK分词器自带的配置文件,我们只需要在扩展字典处配置进去新建扩展词文件即可

    
    
    
    IK Analyzer 扩展配置
    
    new_word.dic
     
    
    
    
    
    
    
  • 修改好后保存文件、退出容器,重启容器

  • 如果是集群环境将修改好的文件复制到宿主机后,再发送到不同的服务器,再传递到容器中

    具体docker操作命令可以移步:https://blog.51cto.com/9844951/2469349

    服务间拷贝资料命令

    scp IKAnalyzer.cfg.xml root@IP(要拷贝到目的服务器IP):/usr/local/

    当然,如果集群服务器间做了SSL后就不需要输入密码之类的

  • 文件一切就绪后重启ES容器

重启后我们可以验证一下

GET /operation/_analyze
{
  "analyzer": "ik_smart",
  "text": "凯悦"
}

结果

{
  "tokens" : [
    {
      "token" : "凯悦",
      "start_offset" : 0,
      "end_offset" : 2,
      "type" : "CN_WORD",
      "position" : 0
    }
  ]
}

正是我们想要的结果

此处在通过凯悦二字搜索文档时将会没有任何结果,效果如下:

{
  "took" : 38,
  "timed_out" : false,
  "_shards" : {
    "total" : 3,
    "successful" : 3,
    "skipped" : 0,
    "failed" : 0
  },
  "hits" : {
    "total" : {
      "value" : 0,
      "relation" : "eq"
    },
    "max_score" : null,
    "hits" : [ ]
  }
}

hits没有任何文档

相关内容

热门资讯

尺素金声|中国经济“失速论”站... 一季度GDP同比增长5.0%、二季度增长4.3%、上半年增长4.7%,2026年中国经济半年报发布后...
NVIDIA最深的护城河要凉!... 7月24日消息,AMD在Advancing AI预简报会上表示,CUDA已不再是外界想象中的那条护城...
廖杰远:三大智能体协同闭环,A... 中国日报网7月24日电 7月22日,在2026年世界互联网大会数字丝路发展论坛数智健康分论坛上,微医...
AI时代构筑超级底座 维谛技术... 文/本报记者 当前,人工智能产业竞争持续向产业链上游延伸,算力竞争早已不再局限于计算芯片性能比拼。具...
刚签核协议不到24小时,美国突... 美国东部时间7月22日下午,美国宣布与沙特阿拉伯签署了一项民用核能协议。据美国有线电视新闻网(CNN...
中国信通院牵头,数据编织国际标... IT之家 7 月 24 日消息,中国信通院今日发文称,国际电信联盟第 21 研究组(ITU-T SG...
国内首颗商业空间碎片监测卫星发... 【国内首颗商业空间碎片监测卫星发射成功】《科创板日报》24日讯,7月24日上午,中科宇航力箭一号运载...
邓煜,诗人,数学家,老二次元 来源 视觉中国菲尔兹奖的通知邮件抵达时,普林斯顿大学数学博士、芝加哥大学数学系教授邓煜正在看一本恋爱...
安全生产许可证状态不是“有效”... 工程公司的安全生产许可证在官方系统显示为“其他”状态,有一栏则显示“整改”,却成为高标准农田项目的第...
深化产教融合 推进数智育人 哈... 7月23日,由阿里国际人工智能人才孵化中心(以下简称“阿里国际AITIC”)主办的“智启未来·数智赋...