Redis 的内存淘汰算法与原理详解

news/2024/12/22 13:55:25/
引言

Redis 是一款基于内存的高性能键值存储数据库,能够在多种场景下提供高效的数据存储与查询。然而,作为内存数据库,Redis 的一个关键问题是内存的限制。当 Redis 存储的数据量达到或接近内存上限时,为了防止系统崩溃,Redis 提供了多种内存淘汰(Eviction)算法,以决定如何释放空间存储新的数据。本文将详细介绍 Redis 的内存淘汰机制、各种内存淘汰算法的工作原理及其应用场景。


第一部分:Redis 内存管理概述

Redis 是一个基于内存运行的数据库,当所有数据都存储在内存中时,它能够提供极高的读写性能。然而,内存资源有限,尤其是在一些大规模数据处理的场景下,可能会出现内存耗尽的情况。因此,Redis 提供了内存淘汰机制,在内存不足时,自动释放旧数据以腾出空间存储新数据。

1.1 内存配置

在 Redis 配置文件中,开发者可以通过以下参数设置 Redis 的最大内存限制:

maxmemory <bytes>

例如:

maxmemory 2gb

当 Redis 达到设置的内存上限时,它会根据配置的内存淘汰策略决定如何处理新的数据请求。如果没有设置最大内存,Redis 将使用系统所有可用内存,直到系统因内存不足而崩溃。

1.2 内存淘汰机制触发

当 Redis 占用的内存达到 maxmemory 限制时,如果再有新的写操作请求,Redis 就会根据设定的淘汰策略,删除部分数据来释放内存。淘汰机制主要分为三种策略:

  • 不做处理:返回错误,表示内存不足。
  • 淘汰部分数据:根据特定算法选择部分数据进行删除,以腾出空间存储新数据。
  • 全部淘汰:清空所有数据,重新开始存储。

第二部分:Redis 的内存淘汰算法

Redis 提供了八种内存淘汰策略,分别适用于不同的场景和需求。通过 maxmemory-policy 参数可以设置 Redis 的内存淘汰策略。

maxmemory-policy <policy>
2.1 noeviction(默认策略)

原理

  • 当 Redis 达到最大内存限制时,拒绝所有写操作,返回错误,并继续接受读取操作。

适用场景

  • 适用于对数据一致性要求极高的场景,不允许自动删除任何数据。在这种场景下,内存耗尽后系统会停止接收新数据。

优缺点

  • 优点:确保数据不会被无意删除。
  • 缺点:当达到内存上限时,所有写操作将被拒绝,可能导致应用程序异常。
2.2 allkeys-lru

原理

  • 在所有的键(包括没有过期时间的键)中,淘汰最近最少使用的键(LRU: Least Recently Used),即将最近没有被访问的数据淘汰掉。

适用场景

  • 适用于大多数情况下,既有缓存数据,也有持久性数据的场景。例如,缓存热点数据,使用 allkeys-lru 策略可以确保常用数据保存在内存中,而很少使用的键被淘汰。

优缺点

  • 优点:能够智能地淘汰最不常使用的数据,确保高频数据优先保存在内存中。
  • 缺点:由于所有键都可以被淘汰,某些重要的键(即使没有过期时间)也可能被删除。
2.3 volatile-lru

原理

  • 仅在设置了过期时间的键中,淘汰最近最少使用的键。未设置过期时间的键不会被淘汰。

适用场景

  • 适合缓存场景下,缓存的数据具有生命周期,而业务数据则无需淘汰。在这种情况下,使用 volatile-lru 策略可以确保业务数据不被淘汰。

优缺点

  • 优点:能够保护持久性数据不被误删,只淘汰那些缓存数据。
  • 缺点:如果大部分数据没有设置过期时间,Redis 内存压力仍然存在。
2.4 allkeys-random

原理

  • 在所有的键中随机淘汰某些键,释放内存。

适用场景

  • 适用于数据访问频率相对均匀的场景,或当 LRU 策略开销较大时可以选择此策略。

优缺点

  • 优点:实现简单,淘汰数据快速。
  • 缺点:随机淘汰不具备智能化,可能导致重要数据被淘汰。
2.5 volatile-random

原理

  • 在设置了过期时间的键中,随机选择键进行淘汰。

适用场景

  • 适合缓存数据具有生命周期,且不需要根据访问频率淘汰的场景。

优缺点

  • 优点:保证业务数据不被删除。
  • 缺点:随机淘汰不具备智能性,可能删除掉一些有用的缓存数据。
2.6 volatile-ttl

原理

  • 在设置了过期时间的键中,淘汰那些存活时间(TTL)最短的键。TTL 值越小,键越容易被淘汰。

适用场景

  • 适合那些存活时间有限的数据集。例如,某些键被认为很快会过期,可以优先淘汰,以减少对内存的压力。

优缺点

  • 优点:通过 TTL 使得快过期的数据优先被淘汰,合理优化内存。
  • 缺点:未考虑数据的访问频率,可能导致高频数据被淘汰。
2.7 volatile-lfu

原理

  • 在设置了过期时间的键中,淘汰最近使用次数最少的键(LFU: Least Frequently Used)。也就是说,淘汰那些被访问次数最少的数据。

适用场景

  • 适用于缓存系统中,经常访问的数据应该长期驻留在内存中,而很少访问的缓存数据应被优先淘汰。

优缺点

  • 优点:能够更好地保存频繁访问的数据,确保缓存的有效性。
  • 缺点:计算每个键的访问次数会带来额外的开销。
2.8 allkeys-lfu

原理

  • 在所有的键中,淘汰最近使用次数最少的键。无论是否设置过期时间,都会根据访问次数决定是否淘汰。

适用场景

  • 适用于数据访问模式较为复杂的场景,确保频繁访问的键不会被淘汰。

优缺点

  • 优点:能够更好地保持频繁使用的数据。
  • 缺点:同样会带来一定的性能开销。

第三部分:Redis 内存淘汰算法的工作原理

3.1 LRU(Least Recently Used)

LRU 算法的基本思想是淘汰那些最久未被使用的数据。Redis 采用一种近似 LRU 的算法,通过采样一部分键,找到其中最近最少使用的键进行淘汰。Redis 不会对整个键空间进行遍历,而是随机选择一部分键进行 LRU 计算,从而提高算法的性能。

# 启用 LRU 策略
maxmemory-policy allkeys-lru
3.2 LFU(Least Frequently Used)

LFU 算法淘汰那些使用频率最低的数据。每个键都会记录它的访问次数(通过对键的访问增加一个计数器),当内存达到上限时,Redis 会淘汰那些访问次数较少的键。Redis 的 LFU 实现使用了一个叫做 近似计数器 的机制,能够以较低的内存开销记录键的访问频率。

# 启用 LFU 策略
maxmemory-policy allkeys-lfu
3.3 TTL(Time to Live)

TTL 策略是根据键的剩余存活时间进行淘汰。对于设置了过期时间的键,TTL 策略会优先淘汰那些即将过期的键,以释放内存。这个策略适用于那些过期时间设置合理、存活时间能够反映数据重要性的场景。

# 启用 TTL 策略
maxmemory-policy volatile-ttl
3.4 Redis

内存淘汰过程

当 Redis 内存达到 maxmemory 限制时,Redis 将根据配置的淘汰策略,开始淘汰数据:

  1. 采样淘汰:Redis 并不会遍历整个键空间进行淘汰,而是从键空间中随机选取一定数量的键进行采样,选择符合淘汰策略的键进行删除。采样的键数量取决于 Redis 配置文件中的 maxmemory-samples 参数。

    maxmemory-samples 5
    
  2. 内存释放:在采样到的键中,找到符合淘汰策略的键进行删除,释放内存。

  3. 继续操作:如果释放的内存仍然不足以满足新请求的需求,Redis 会继续执行淘汰操作,直到释放足够的内存或者达到系统允许的限制。


第四部分:Redis 内存淘汰机制的实际应用

4.1 在缓存场景中的使用

Redis 的内存淘汰机制在缓存场景中非常常见。假设一个高并发的电商系统中需要缓存热门商品数据,使用 allkeys-lru 策略可以确保用户频繁访问的热门商品数据长时间保存在缓存中,而那些不再热销的商品数据则会被逐渐淘汰。

# 配置内存淘汰策略
maxmemory-policy allkeys-lru
4.2 数据集大小不可控的场景

在一些数据集大小难以预测的场景中(例如用户行为日志的缓存),开发者可以使用 volatile-lruvolatile-lfu 策略来淘汰那些已经设置了过期时间、且不再经常访问的数据。

4.3 防止 OOM 错误

如果 Redis 达到了内存上限且未配置淘汰策略,系统可能会报 OOM 错误。通过合理设置内存淘汰策略,可以避免这种错误的发生。


第五部分:如何选择合适的内存淘汰策略

选择合适的内存淘汰策略取决于业务场景:

  • 如果 Redis 主要用于缓存,且缓存的数据没有持久化需求,建议使用 allkeys-lruvolatile-lru,以确保常用数据的命中率。
  • 如果 Redis 存储的数据有明确的过期时间,可以使用 volatile-ttl,这样 Redis 会优先淘汰即将过期的数据。
  • 如果存储的数据访问频率有显著差异,可以考虑使用 allkeys-lfuvolatile-lfu,以保证高频访问的数据不会被轻易淘汰。

结论

Redis 提供的内存淘汰机制能够在系统内存不足时,合理地释放部分内存,确保系统的稳定性和高效运行。通过选择合适的淘汰策略,开发者可以在不同的业务场景中充分发挥 Redis 的高性能优势。理解和合理配置 Redis 的内存淘汰机制,不仅能够提升系统的性能,还可以避免内存耗尽问题带来的系统崩溃风险。


http://www.ppmy.cn/news/1524449.html

相关文章

【LLM大模型】大语言模型架构:LLM MoE :Switch Transformers

3.LLM MoE &#xff1a;Switch Transformers 0.前言 GPT-4远不止1万亿&#xff0c;甚至&#xff0c;还是8个2200亿参数组成的混合专家模型&#xff08;MoE&#xff09;。 2023年6月&#xff0c;美国知名骇客George Hotz在接受采访时透露&#xff0c;GPT-4由8个220B模型组成。…

整合Redis和RedisCacheManger

整合redis springboot在现在的版本中操作Redis数据库用到了lettuce&#xff0c;而不是Jedis&#xff0c;他们各有各的特点。Jedis以Redis命令作为方法名称&#xff0c;学习成本低&#xff0c;简单实用。但是Jedis实例是线程不安全的&#xff0c;多线程环境下需要基于连接池来使…

C语言代码练习(第十八天)

今日练习&#xff1a; 48、猴子吃桃问题。猴子第1天摘下若干个桃子&#xff0c;当即吃了一半&#xff0c;还不过瘾&#xff0c;又多吃了一个。第2天早上又将剩下的桃子吃掉一半&#xff0c;又多吃了一个。以后每天早上都吃了前一天剩下的一半零一个。到第10天早上想再吃时&…

湖南岳阳农商行高管更迭背后:不良率居高,盈利压力不减

撰稿|芋圆 来源|贝多财经 2024年8月末&#xff0c;湖南岳阳农商行发布了2024年半年报&#xff0c;报告显示截至2024年6月末&#xff0c;湖南岳阳农商行资产规模累计231亿元&#xff0c;较2023年末增长1.34%&#xff1b;营业收入3.1亿元&#xff0c;同比增幅6.54%&#xff1b;…

攻防世界 Web_php_unserialize

Web_php_unserialize PHP反序列化 看看代码 <?php class Demo { private $file index.php;public function __construct($file) { $this->file $file; }function __destruct() { echo highlight_file($this->file, true); }function __wakeup() { if ($this->…

什么是APT攻击,有哪些防御策略

在数字化时代&#xff0c;网络安全已成为国家、企业和个人不可忽视的重要议题。其中&#xff0c;高级持续性威胁&#xff08;APT&#xff09;攻击以其隐蔽性强、攻击规模大、持续时间长等特点&#xff0c;成为网络安全领域最为棘手的问题之一。面对APT攻击的严峻挑战&#xff0…

第二百二十七节 JPA教程 - JPA日期列定义示例

JPA教程 - JPA日期列定义示例 时间类型是可以在持久状态映射中使用的基于时间的类型集合。 支持的时间类型的列表包括三个java.sql类型&#xff0c;java.sql.Date java.sql.Time和java.sql.Timestamp&#xff0c;以及两个java.util类型&#xff0c;java.util.Date和java.util.…

AI大模型全解析:原理、应用与未来展望

1. 引言 在自然语言处理&#xff08;NLP&#xff09;与人工智能&#xff08;AI&#xff09;的广袤星海中&#xff0c;大语言模型&#xff08;Large Language Models, LLMs&#xff09;宛如一颗璀璨的星辰&#xff0c;正悄然改变我们与语言和机器的互动方式。本章将引领您步入一…