倒排索引(反向索引)

embedded/2024/9/25 23:12:15/

倒排索引(Inverted Index)是搜索引擎和数据库管理系统中常用的一种数据结构,用于快速检索文档集合中的文档。在全文搜索场景中,倒排索引是一种非常高效的手段,因为它能够快速定位到包含特定关键词的所有文档。

1、基本概念

  • 正向索引:在传统的文档存储中,文档是按其ID或创建时间等属性组织的。如果通过这种方式来查找包含特定关键词的所有文档,则效率较低。

  • 倒排索引:与正向索引相反,倒排索引是以“词到文档”的方式存储数据,即对于每个出现在文档中的词,记录下包含该词的所有文档的列表。这使得查询某个词出现在哪些文档中变得非常高效。

2、倒排索引的组成

  1. 词典(Dictionary):包含了所有唯一词汇的列表。

  2. 倒排列表(Posting List):对于词典中的每个词条,倒排列表记录了包含该词条的所有文档的ID(Document ID),以及在这些文档中的位置信息。

例如,我们有以下文档:

  • Doc1: "I love programming"

  • Doc2: "Programming is fun"

  • Doc3: "I love to program"

那么,基于这三个文档构建的倒排索引可能如下所示:

词条倒排列表
I[Doc1, Doc3]
love[Doc1, Doc3]
programming[Doc1, Doc2]
is[Doc2]
fun[Doc2]
to[Doc3]
program[Doc3]

3、工作原理

  1. 构建索引(分词):首先分析文档集合,提取出每个文档中的所有单词,并为这些单词建立索引。每个单词都对应一个文档列表(称为倒排列表),列表中包含该单词在各个文档中的位置信息。

  2. 存储:将构建好的倒排索引存储起来,通常会进行优化以减少存储空间并加快检索速度,比如使用压缩技术或者分级存储策略。

  3. 查询处理:当用户输入查询词时,系统会在倒排索引中查找对应的文档列表,并根据一定的排序规则返回结果给用户。排序规则可能包括相关性评分、文档排名等因素。

4、应用场景

  • 搜索引擎:Google、Bing等搜索引擎使用倒排索引来加速对网页内容的搜索。

  • 数据库:某些数据库管理系统也会使用类似的概念来提高查询性能。

  • 自然语言处理:在文本挖掘、信息检索等领域也有广泛应用。

5、在Elasticsearch中的应用

在Elasticsearch中,倒排索引的概念被广泛应用于全文搜索功能。Elasticsearch内部自动为文本字段构建倒排索引,以便于高效地处理搜索请求。

5.1 Elasticsearch中的倒排索引特点

  1. 分词器(Analyzer):Elasticsearch允许用户配置不同的分析器来对文本进行分词和标准化处理,从而影响倒排索引的构建。ik_max_word分词器: 最细粒度拆分,ik_smart分词器: 粗粒度的拆分

  2. 动态映射:Elasticsearch可以根据索引的数据动态地生成映射,确定哪些字段应该被索引。

  3. 索引优化:Elasticsearch会定期合并小文件,减少磁盘碎片,提高搜索性能。

  4. 搜索增强:Elasticsearch支持多种搜索方式,比如前缀搜索、模糊搜索等,这些都是基于倒排索引来实现的。

5.2 创建倒排索引的例子

在Elasticsearch中,可以通过定义字段的analyzer属性来指定如何对文本进行分析,从而决定倒排索引的具体构建方式。例如,使用ik_max_word分析器来进行中文分词:

PUT /shop
{"settings": {"analysis": {"analyzer": {"my_analyzer": {"type": "ik_max_word"}}}},"mappings": {"properties": {"title": {"type": "text","analyzer": "my_analyzer"},"content": {"type": "text","analyzer": "my_analyzer"},"price": {"type": "float"},"stock": {"type": "integer"}}}
}

5.3 验证

首先,确保你的映射已经被正确设置,并且索引已经被创建。可以通过以下命令来查看索引的映射:

确保文档已经被正确插入到了索引中,通过之前的批量插入命令来插入文档,或者单独插入文档来验证:

现在,可以尝试搜索文档来验证倒排索引是否正常工作。例如,可以搜索包含“小米手机”的文档:

检查倒排索引的状态,可以使用_stats API来获取索引的状态信息,包括倒排索引的大小和其他统计信息:


http://www.ppmy.cn/embedded/116870.html

相关文章

【算法】贪心+堆排序实现大根堆及标准库容器类的融合使用

📢博客主页:https://blog.csdn.net/2301_779549673 📢欢迎点赞 👍 收藏 ⭐留言 📝 如有错误敬请指正! 📢本文由 JohnKi 原创,首发于 CSDN🙉 📢未来很长&#…

一种单目标A*算法设计与实现

一种单目标A*算法设计与实现 作者:吴屏珊 最近在学习简单的单目标A*算法,其中在CSDN上阅读到的一篇博文给了我很大启发,于是在该博文的基础上,笔者记录了一点自己对于A*算法的体会和感悟。原文链接 目录 文章目录 一种单目标A*…

【多线程】面试高频考点!JUC常见类的详细总结,建议收藏!

💐个人主页:初晴~ 📚相关专栏:多线程 / javaEE初阶 JUC是“Java Util Concurrency”的缩写,指的是Java并发工具包,它位于java.util.concurrent包及其子包中。JUC包提供了大量用于构建并发应用程序的工具和…

如何在openEuler上安装和配置openGauss数据库

本文将详细介绍如何在openEuler 22.03 LTS SP1上安装和配置openGauss数据库,包括数据库的启动、停止、远程连接配置等关键步骤。 1、安装 使用OpenEuler-22.03-LTS-SP1-x64版本的系统,通过命令行安装openGauss数据库。 1.1、确保系统软件包索引是最新…

OpenHarmony(鸿蒙南向开发)——小型系统内核(LiteOS-A)【内核通信机制】上

往期知识点记录: 鸿蒙(HarmonyOS)应用层开发(北向)知识点汇总 鸿蒙(OpenHarmony)南向开发保姆级知识点汇总~ 子系统开发内核 轻量系统内核(LiteOS-M) 轻量系统内核&#…

[图解]静态关系和动态关系

1 00:00:01,060 --> 00:00:04,370 首先我们来看静态关系和动态关系 2 00:00:06,160 --> 00:00:10,040 我们要尽量基于静态关系来建立动态关系 3 00:00:11,740 --> 00:00:13,740 不能够在没有这个的基础上 4 00:00:14,220 --> 00:00:17,370 没有这个的情况下就胡…

Redis中String命令的基础操作

文章目录 Redis中String命令的基础操作一、引言二、String类型的基础命令1、设置与获取值1.1、SET命令1.2、GET命令 2、字符串操作2.1、APPEND命令2.2、GETRANGE命令2.3、SETRANGE命令2.4、STRLEN命令 3、数值操作3.1、INCR命令3.2、DECR命令3.3、INCRBY和DECRBY命令 三、应用场…

59.【C语言】内存函数(memmove函数)

2.memove函数 *简单使用 memove:memory move cplusplus的介绍 点我跳转 对比第59篇的memcpy函数 对比memmcpy函数的介绍如下区别: 部分翻译 memmove多了:Copying takes place as if an intermediate buffer were used(复制就像中间的缓存区使用一样), allowing the destin…