《从Lucene到Elasticsearch:全文检索实战》
admin
2023-01-23 07:22:34
0

      今天我给大家讲讲倒排索引。

      索引是构成搜索引擎的核心技术之一,它在日常生活中是非常常见的,比如我看一本书的时候,我首先会看书的目录,通过目录可以快速定位到具体章节的页码,加快对内容的查询速度。

      文档通常保存在各种数据库管理系统之中,比如mysql,oracle等,但是搜索引擎的数据不能保存在数据库,主要原因有两点:一是搜索引擎的数据量非常庞大,大型搜索引擎需要处理数以亿计的网页数据,面对海量数据数据库很难管理。二是搜索引擎对数据的操作比较简单,一般的增删改查就够用了,而数据库支持的数据库操作是比较复杂的,牺牲了速度和空间,而搜索引擎要求响应快,信息检索效率高,在搜索引擎中主要使用倒排索引存储网页数据。 

      倒排索引也叫反向索引,是一种索引方法,用来存储在在全文搜索下某个单词在一个文档或者一组文档中的存储位置的映射,它是文档检索系统中最常用的数据结构。

      下面以通俗的例子解释一下倒排索引,该例子取自于书中内容:有两个文档doc1和doc2,doc包含中国、美国、韩国,doc2中包含4个关键词:中国、美国、德国、英国,文档和词语的关系如下:

文档 词语
doc1 中国、美国、韩国
doc2 英国、中国、美国、德国

     词语所属的文档关系如下:

 

词语 文档
中国 doc1、doc2
美国 doc1、doc2
韩国 doc1
英国 doc2
德国 doc2       

    

    参考下表,我们深入理解一下倒排索引,我们给每个文档设置文档ID

文档ID 文档内容
1 人工智能成为互联网大会焦点
2 谷歌推出开源人工智能系统工具
3 互联网的未来在人工智能
4 谷歌开源机器学习工具

     

   对于文档内容,先要经过词条化处理。和英文不同的是,英语通过空格分隔单词,中文的词与词之间没有明确的分隔符号,经过分词系统进行中文分词以后把矩阵切分成一个个词条,文档4被分成“谷歌” “开源” “机器” “学习” “工具” 5个词项。谷歌这个词在文档2和文档4中各出现一次,文档频率为2,倒排记录表记作2->4,文档频率也是倒排记录表的长度。依次统计各个词项的文档频率和倒排记录表,构建倒排索引过程如下:

词项 文档频率 倒排记录表

文档ID 文档频率 倒排记录表
人工 3 2->3
智能 3 2->3
成为 1 1
互联网 2 1->3

     

相关内容

热门资讯

一元复始 万象AI!2026智... 7月22日,2026人工智能产品应用博览会(以下简称“2026智博会”)新闻发布会在苏州工业园区举行...
怕失焦?蓝白周六上凯道反毒油,... 中联毒油案引发全台民众食安疑虑,国民党发起25日上凯道抗争,当天一早将先举行全代会,晚间6点前往凯道...
原创 为... 把一只穴兔和一只野兔摆在一起,长耳朵短尾巴,普通人根本分不出谁是谁。可就是这两只看着一模一样的兔子,...
AMD推出Helios机架AI... 据香港IDC新天域互联了解,历经十年技术深耕,芯片巨头AMD正式推出首款机架级AI系统Helios,...
原创 卡... 在高端新材料圈子里,碳纤维一直有个响亮外号——黑色黄金。轻得像羽毛,硬度远超钢材,航空航天、飞行器、...
iPhone 18 Pro系列... 快科技7月22日消息,据最新爆料,iPhone 18 Pro和iPhone 18 Pro Max将沿...
普京:困难是暂时的 在乌克兰利用无人机持续打击俄境内能源设施的背景下,俄罗斯总统普京在克里姆林宫召开经济问题会议。俄新社...
“打压中企,欧盟将自损400亿... 当地时间7月22日,美国“政客新闻网”欧洲版(POLITIO EU)援引知名行业机构全球移动通信系统...
蓝营青年绝食抗议毒油,“独派”... 图注:民众党议员陈世轩22日率新北队议员参选人声援4位蓝营绝食者。中国台湾网7月22日讯 为抗议民进...
法国歧视性限制中资跨境电商平台... 商务部新闻发言人就法国“反超快时尚”法有关问题答记者问。问:近日法国出台了“反超快时尚”法,针对“超...