Redis高级结构-布隆过滤器

news/2025/3/20 13:36:31/

可以将布隆过滤器看成一个set,但是这个set可能不太准,当你使用它的contains方法判断时,他可能会误判。但只要设置的参数合理,精确度还是非常高的。当布隆过滤器说某个值存在的时候,那这个值可能不存在。但是当其判断某个值不存在的时候,那么这个值就一定不存在。

使用场景

如短视频场景中,帮用户过滤掉已经看了的视频,那些用户没看过的视频,可能会被过滤掉(一小部分),但绝大多数都能准确识别。这样保证给用户推荐的视频是不重复的。

在爬虫系统中,我们爬过的URL就不在爬了,而URL很长,存储起来很浪费空间,此时就可以用布隆过滤器去重了。

布隆过滤器在NoSQL中使用也非常广泛,我们平时用到的HBase、Cassandra、LevelDB、RocksDB内部都有布隆过滤器,布隆过滤器可以显著降低数据库的IO请求。当想要查询某个row时,可以先通过内存中的布隆过滤器过滤掉大量不存在的row请求,然后再去磁盘查询。

邮箱系统的垃圾邮件过滤器也普遍应用到布隆过滤器,因为这个过滤器,所以平时也会有某些正常的邮件被放进垃圾目录中。

基本用法

1、两个基本指令 bf.add 和 bf.exists

bf.add用于添加元素,

bf.exists用于查询元素是否存在

如果想要一次性添加多个,那就用到了bf.madd指令,如果要同时查询多个元素是否存在,那就用到了bf.mexists。

//添加用户zayn
bf.add user zayn//查询用户是否存在
bf.exists user zayn//批量添加用户
bf.madd user zayn naill//批量查询用户
bf.mexists user zayn naill

当你写程序,遍历10W条插入去查询这10W条时,你会发现,没有误判。这时因为布隆过滤器对于已经见过的元素不会误判,只会误判那些没有见过的元素。

2、自定义布隆过滤器

Redis其实可以提供自定义的布隆过滤器,需要我们在add之前使用bf.reserve指令显式创建。如果对应的key已经存在,那么bf.reserve会报错。bf.reserve有3个参数,分别是key、error_rate和initial_size。

error_rate越低,需要的空间越大;

initial_size表示预计放入的元素数量,当实际数量超过这个值时,误判率会上升,所以需要提前设置一个较大的数值避免超出导致误判率升高。

布隆过滤器的原理

每个布隆过滤器对应到Redis里的数据结构就是一个大型的位数组和几个不一样的无偏hash函数。

所谓的无偏就是能够把元素的hash值算的比较均匀,让元素被hash映射到数组中的位置比较随机。

向布隆过滤器中添加 key 时,会使用多个 hash 函数对 key 进行 hash,算得一整数索引值,然后对位数组长度进行取模运算得到一个位置,每个 hash函数是会个不同的位置,再把位数组的这几个位置都置为1,就完成了add作。

向布隆过滤器询间 key 是否存在时,跟 add 一样,也会把 hash 的几个位置都算出来,看看位数组中这几个位置是否都为1,只要有一个位为0,那么说明布隆过滤器中这个 key 不存在。如果这几个位置都是1,并不能说明这个 key 就一定存在,只是极有可能存在,因为这些位被置为1可能是因为其他的 key 存在所致。如果这个位数组比较稀疏,判断正确的概率就会很大,如果这个位数组比较拥挤,判断正的概率就会降低。具体的概率计算公式比较复杂,感兴趣可以阅读相关的更深入研究的资料,不过非常烧脑。使用时不要让实际元素数量远大于初始化数量,当实际元素数量开始超出初始化数量时,应该对布隆过滤器进行重建,重新分配一个size更大的过滤器,再将所有的历史元素批量add进去。

空间占用估计

布隆过滤器有2个参数,一个是预计元素 数量n,另一个是错误率f,公式根据这2个输入得出2个输出,第一个输出是位数组长度l,也就是需要储存空间大小(bit),第二个输出是最佳数量k。

公式如下:

k = 0.7 *(l/n)

f = 0.6185^(l/n)

当错误率位0.1%的时候,一个元素需要的平均指纹空间位14.377bit,大约是15bit。那是否布隆过滤器的优势就没那么明显了?

需要明确的是,set中会存储每个元素的内容,而布隆过滤器仅仅是储存元素的指纹。元素的内容大小就是字符串的长度,一般会有多个字节,甚至几十个上百个字节,每个元素本身还需要一个指针被set集合引用,这个指针又会占用4个字节或8个字节,取决于OS是32位还是64位。指纹所需空间不足2字节,所以布隆过滤器的空间优势还是很明显的。


http://www.ppmy.cn/news/1580606.html

相关文章

深入理解JVM类加载机制:从原理到实践

引言 Java虚拟机(JVM)是Java语言的核心,而类加载机制是JVM的重要组成部分。理解类加载机制不仅有助于我们更好地掌握Java程序的运行原理,还能帮助我们在实际开发中解决类加载相关的问题。本文将深入探讨JVM类加载机制的原理、类加载器的层次结构、双亲委派模型以及如何自定…

C程序设计(第五版)及其参考解答,附pdf

通过网盘分享的文件:谭浩强C语言设计 链接: https://pan.baidu.com/s/1U927Col0XtWlF9TsFviApg?pwdeddw 提取码: eddw 谭浩强教授的《C程序设计》是C语言学习领域的经典教材,其内容深入浅出,适合不同层次的学习者。 一、教材版本与特点 最…

【PyTorch][chapter-37][MOE- Mixture of Experts Explained 】[2]

接 【PyTorch][chapter-36][MOE- Mixture of Experts Explained 】[1]-CSDN博客 什么是 MOE(Mixture of Experts)MOE 的简史什么是稀疏性?负载均衡(load Balancing)MOE and TransformerSwitch Transformers使用路由器Z损失稳定训练Expert…

vscode vue3 jsconfig 与 tsconfig的区别

1、基本说明 ‌jsconfig.json和tsconfig.js的主要区别在于它们的应用场景和功能。‌ 应用场景 ‌jsconfig.json‌:主要用于JavaScript项目,特别是那些需要JavaScript语言服务支持的项目。它相当于tsconfig.json的“allowJs”属性设置为true&#xff0…

【免费】2000-2019年各省地方财政国内增值税数据

2000-2019年各省地方财政国内增值税数据 1、时间:2000-2019年 2、来源:国家统计局、统计年鉴 3、指标:行政区划代码、地区、年份、地方财政国内增值税 4、范围:31省 5、指标说明:地方财政中的国内增值税是指在Z国…

蓝桥杯真题——洛谷Day13 找规律(修建灌木)、字符串(乘法表)、队列(球票)

目录 找规律 P8781 [蓝桥杯 2022 省 B] 修剪灌木 字符串 P8723 [蓝桥杯 2020 省 AB3] 乘法表 队列 P8641 [蓝桥杯 2016 国 C] 赢球票 找规律 P8781 [蓝桥杯 2022 省 B] 修剪灌木 思路:对某个特定的点来说有向前和向后的情况,即有向前再返回到该位置…

碰一碰发视频后端源码技术,支持OEM

引言 在移动互联网时代,便捷的分享体验成为众多应用追求的目标。碰一碰发视频功能为用户提供了一种新奇且高效的视频分享方式。这种功能背后的后端开发涉及到多种技术的协同工作,以确保分享过程的稳定、安全与高效。本文将深入探讨碰一碰发视频后端源码…

DeepSeek大模型在政务服务领域的应用

DeepSeek大模型作为国产人工智能技术的代表,近年来在政务服务领域的应用呈现多点开花的态势。通过多地实践,该技术不仅显著提升了政务服务的效率与智能化水平,还推动了政府治理模式的创新。以下从技术应用场景、典型案例及发展趋势三个维度进…