使用Redis实现限流

devtools/2024/12/23 22:29:12/

使用Redis实现限流的三种方式

请添加图片描述

目录

  1. 概述
  2. 基于计数器的固定窗口限流
    • 实现原理
    • 适用场景
    • 实现步骤
    • 代码实现
    • 缺点
  3. 基于滑动窗口的限流
    • 实现原理
    • 适用场景
    • 实现步骤
    • 代码实现
    • 优点
    • 缺点
  4. 基于令牌桶算法的限流
    • 实现原理
    • 适用场景
    • 实现步骤
    • Lua脚本实现
    • Java实现
    • 优点
    • 缺点
  5. 总结

概述

在分布式系统中,限流是保护服务的重要手段之一。通过限流,可以防止接口被恶意刷请求或突发流量压垮,从而保证系统的稳定性。Redis是一个高性能的键值存储工具,因其高效的读写性能和丰富的数据结构,被广泛用于限流场景。本文将介绍三种使用Redis实现限流的方式,并通过代码示例说明其实现原理和应用场景。

限流算法的核心目标是控制资源的访问速率,以防止系统过载。在不同的业务场景下,限流的需求和实现方式也有所不同。例如,在Web服务中,限流可以用于控制用户请求的频率,以防止服务被滥用;在API网关中,限流可以用于保护后端服务不受过多请求的影响。限流算法的设计需要考虑到实际业务的特点,如请求的分布、峰值流量的大小等。

基于计数器的固定窗口限流

实现原理

固定窗口限流是一种最简单的限流方式。它将时间划分为固定大小的窗口,通常是秒或分钟级别的。在每个窗口内,统计请求的次数,并与预设的阈值进行比较。如果请求次数超过阈值,则拒绝后续请求,直到下一个窗口开始。这种限流方式简单直观,易于实现,但可能存在边界问题,即在窗口切换时请求量可能会突然增加。

适用场景

固定窗口限流适用于流量较为均匀的场景,适合简单的限流需求。例如,对于一个小型网站,如果其访问量相对稳定,没有明显的高峰和低谷,那么固定窗口限流可能是一个合适的选择。

实现步骤

  1. 使用Redis的INCR命令记录每个窗口的请求次数。
  2. 设置键的过期时间为窗口时长。
  3. 判断请求次数是否超过阈值。

代码实现

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Service;import java.util.concurrent.TimeUnit;@Service
public class FixedWindowRateLimiter {@Autowiredprivate StringRedisTemplate redisTemplate;public boolean isAllowed(String key, int limit, int windowSeconds) {String redisKey = "rate_limit:" + key;Long count = redisTemplate.opsForValue().increment(redisKey);if (count == 1) {redisTemplate.expire(redisKey, windowSeconds, TimeUnit.SECONDS);}return count <= limit;}
}

缺点

固定窗口限流的主要缺点是边界问题。在窗口切换时,请求量可能会突然增加,导致短时间内的流量突增。此外,如果请求分布不均匀,固定窗口限流可能无法有效控制流量。

基于滑动窗口的限流

实现原理

滑动窗口限流通过更精细地统计一定时间范围内的请求,避免了固定窗口限流的边界问题。它不是将时间划分为固定大小的窗口,而是维护一个滑动的时间窗口,通常使用有序集合(ZSET)来实现。在这个窗口内,记录每个请求的时间戳,并在每次请求时移除超出窗口的请求记录。这样,可以更准确地控制请求的速率,避免了固定窗口限流的边界问题。

适用场景

滑动窗口限流适用于对流量分布较为敏感的场景。例如,在一些高流量的Web服务中,请求可能在某些时间段内集中到达,而在其他时间段内相对较少。滑动窗口限流可以更准确地控制这些请求,避免因固定窗口限流导致的流量突增问题。

实现步骤

  1. 使用Redis的有序集合(ZSET)存储每次请求的时间戳。
  2. 每次请求时,移除集合中超出时间窗口的记录。
  3. 统计集合中剩余的记录数,判断是否超出阈值。

代码实现

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Service;import java.time.Instant;
import java.util.concurrent.TimeUnit;@Service
public class SlidingWindowRateLimiter {@Autowiredprivate StringRedisTemplate redisTemplate;public boolean isAllowed(String key, int limit, int windowSeconds) {String redisKey = "rate_limit:" + key;long currentTime = Instant.now().getEpochSecond();long windowStart = currentTime - windowSeconds;// 添加当前请求时间戳到ZSET中redisTemplate.opsForZSet().add(redisKey, String.valueOf(currentTime), currentTime);// 移除ZSET中超出时间窗口的请求redisTemplate.opsForZSet().removeRangeByScore(redisKey, 0, windowStart);// 获取当前窗口内的请求数量Long count = redisTemplate.opsForZSet().zCard(redisKey);return count != null && count <= limit;}
}

优点

滑动窗口限流较好地解决了固定窗口限流的边界问题,能够更准确地控制请求的速率。

缺点

滑动窗口限流的实现比固定窗口限流更复杂,对Redis的性能要求更高。特别是在高并发场景下,需要频繁地更新有序集合,可能会对Redis的性能产生影响。

基于令牌桶算法的限流

实现原理

令牌桶算法是最常用的限流算法之一。其核心思想是按照固定的速率向桶中放入令牌,用户每次请求需要获取一个令牌,如果桶为空,则拒绝请求。令牌桶算法可以控制请求的速率,并且支持突发流量。当桶中的令牌不足时,请求会被阻塞或拒绝,直到桶中有可用的令牌。

适用场景

令牌桶算法适用于对流量速率有严格控制的场景,例如API网关、秒杀系统等。这些场景下,需要精确控制请求的速率,并且能够处理突发的流量。

实现步骤

  1. 初始化令牌桶大小和放令牌的速率。
  2. 使用Redis的Lua脚本实现原子操作,保证线程安全。
  3. 判断是否有足够令牌满足请求。

Lua脚本实现

local key = KEYS[1]
local capacity = tonumber(ARGV[1])
local tokens = tonumber(ARGV[2])
local now = tonumber(ARGV[3])
local refillTime = tonumber(ARGV[4])local currentTokens = tonumber(redis.call("get", key)) or capacity
local lastRefillTime = tonumber(redis.call("get", key .. ":time")) or nowlocal timeElapsed = now - lastRefillTime
local refillTokens = math.floor(timeElapsed / refillTime)currentTokens = math.min(capacity, currentTokens + refillTokens)
if currentTokens > 0 thenredis.call("set", key, currentTokens - 1)redis.call("set", key .. ":time", now)return 1
elsereturn 0
end

Java实现

import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.data.redis.core.script.DefaultRedisScript;
import org.springframework.stereotype.Service;import java.util.Collections;@Service
public class TokenBucketRateLimiter {@Autowiredprivate StringRedisTemplate redisTemplate;private static final String LUA_SCRIPT = "-- Lua Script Here (见上文)";public boolean isAllowed(String key, int capacity, int tokens, int refillTime) {DefaultRedisScript<Long> script = new DefaultRedisScript<>(LUA_SCRIPT, Long.class);Long result = redisTemplate.execute(script,Collections.singletonList("rate_limit:" + key),String.valueOf(capacity),String.valueOf(tokens),String.valueOf(System.currentTimeMillis() / 1000),String.valueOf(refillTime) );return result != null && result == 1;
}

优点

令牌桶算法能够精确控制流量,并且支持突发流量处理。

缺点

令牌桶算法的实现较为复杂,需要Lua脚本支持。在高并发场景下,对Redis的性能要求较高。

总结

限流是确保分布式系统稳定性的关键技术之一。通过使用Redis,我们可以高效地实现限流功能。本文介绍了三种基于Redis的限流方法:固定窗口限流、滑动窗口限流和令牌桶算法限流,每种方法都有其适用场景和优缺点。固定窗口限流简单易实现,但可能存在边界问题;滑动窗口限流更精确,但实现复杂度和性能要求更高;令牌桶算法能够精确控制流量,支持突发流量,但实现最为复杂。选择合适的限流方案,可以有效地保护系统不受流量冲击,提高系统的可用性和用户体验。

在实际应用中,需要根据业务特点和流量分布选择合适的限流策略。例如,对于需要严格速率控制的API服务,令牌桶算法可能是更好的选择;而对于相对简单的应用,固定窗口限流可能已经足够。此外,限流策略的调整也是一个动态的过程,需要根据系统的运行情况和业务需求进行调整。

限流技术的发展也在不断进步,新的算法和工具不断涌现。例如,一些云服务提供商提供了基于机器学习的智能限流服务,可以根据实时流量动态调整限流策略。随着技术的发展,限流技术将更加智能化和精细化,为分布式系统的稳定性和性能提供更有力的保障。


http://www.ppmy.cn/devtools/144816.html

相关文章

45.跳跃游戏Ⅱ python

跳跃游戏Ⅱ 题目题目描述示例 1:示例 2:提示: 题解解决方案&#xff1a;贪心算法提交结果 题目 题目描述 给定一个长度为 n 的 0 索引整数数组 nums。初始位置为 nums[0]。 每个元素 nums[i] 表示从索引 i 向前跳转的最大长度。换句话说&#xff0c;如果你在 nums[i] 处&…

黑客如何找到App中的源IP:原理与防范

在移动互联网时代&#xff0c;应用程序&#xff08;App&#xff09;已经成为人们生活中不可或缺的一部分。然而&#xff0c;随着App的广泛应用&#xff0c;安全问题也日益受到关注。其中&#xff0c;源IP泄露是一个潜在的安全风险&#xff0c;可能导致服务器遭受攻击、敏感信息…

线程安全与线程不安全

线程安全的概念 线程安全&#xff1a;指当多个线程并发访问某个对象时&#xff0c;不会因为线程调度导致数据的不一致或数据污染&#xff0c;即能保证数据的完整性和正确性。实现线程安全的方式&#xff1a; 使用同步机制&#xff08;如 synchronized 关键字或显式锁 Reentran…

机器学习之偏差

机器学习中的偏差&#xff08;Bias&#xff09;是指模型的预测值与真实值之间的系统性误差&#xff0c;或者说模型无法准确捕捉数据中复杂模式的能力。偏差通常与模型的假设或学习能力有关&#xff0c;过高的偏差会导致模型的性能不佳&#xff0c;表现为欠拟合。 偏差的来源 模…

前端跨越方式有哪些

发现宝藏 前些天发现了一个巨牛的人工智能学习网站&#xff0c;通俗易懂&#xff0c;风趣幽默&#xff0c;忍不住分享一下给大家。【宝藏入口】。 前端跨域&#xff08;Cross-Origin Resource Sharing&#xff0c;CORS&#xff09;是指在不同源&#xff08;protocol、domain、…

共创共建!葡萄城 SpreadJS 完成 HarmonyOS NEXT 操作系统兼容认证

最新技术资源&#xff08;建议收藏&#xff09; https://www.grapecity.com.cn/resources/ 近日&#xff0c;华为“企业工作必备应用鸿蒙化论坛”在北京圆满落幕&#xff0c;论坛汇聚了众多行业精英和合作伙伴&#xff0c;聚焦讨论企业数字化转型与原生鸿蒙生态融合等话题。葡萄…

Linux入门攻坚——42、Nginx及web站点架构模式

对于lvs集群&#xff0c;是一个四层路由的集群&#xff0c;Director无需启用对端口的监控&#xff0c;直接将报文转发给后端业务服务器RealServer。 使用Nginx也可以实现集群功能&#xff0c;Nginx实现反向代理&#xff0c;实现的是七层上的转发&#xff0c;要求Nginx本身就是…

初学stm32 ——— 串口通信

目录 STM32的串口通信接口 UART异步通信方式特点&#xff1a; 串口通信过程 STM32串口异步通信需要定义的参数: USART框图&#xff1a; 常用的串口相关寄存器 串口操作相关库函数 ​编辑 串口配置的一般步骤 STM32的串口通信接口 UART&#xff1a;通用异步收发器USART&am…