常见的限流算法

ops/2024/9/22 13:03:06/

限流算法是用于控制访问频率、保护系统免受过载攻击的重要手段。常见的限流算法有以下几种,每种算法都有不同的应用场景和优缺点。下面是几种常见的限流算法的详细介绍:

1. 计数器算法(Counter)

原理

计数器算法是最简单的限流算法。它在固定的时间窗口内记录请求的次数,一旦请求次数达到预设的上限,后续请求会被拒绝。

实现步骤
  • 设置一个时间窗口(例如 1 秒、1 分钟等)。
  • 使用一个计数器记录在当前时间窗口内的请求数量。
  • 如果计数器达到限制次数,则拒绝后续请求;否则增加计数器。
  • 当时间窗口结束时,重置计数器。
优点
  • 实现简单,适合处理短时间内的高并发请求。
缺点
  • 临界问题:在时间窗口的边界处可能出现"流量突发",例如在窗口末尾和下一个窗口的开始时连续发出大量请求。
使用场景

适用于简单的限流场景,比如 API 接口每秒最多允许多少次请求。

代码示例(伪代码)
 

java

复制代码

class CounterLimiter { private int maxRequests; private int currentCount; private long windowStart; private long windowDuration; public boolean allowRequest() { long now = System.currentTimeMillis(); if (now - windowStart > windowDuration) { windowStart = now; currentCount = 0; } if (currentCount < maxRequests) { currentCount++; return true; } else { return false; } } }

2. 滑动窗口算法(Sliding Window)

原理

滑动窗口算法是对计数器算法的一种优化,它将时间窗口进一步划分为多个小的时间片段,从而避免计数器算法的临界问题。每个小窗口内维护一个计数器,当请求到达时,滑动窗口根据当前时间计算跨越的时间片段,并更新计数器。

实现步骤
  • 将大时间窗口(如 1 分钟)分成多个小时间窗口(如 10 秒),并为每个小时间窗口维护请求计数。
  • 每次请求到达时,判断它属于哪个小窗口,并更新相应计数器。
  • 同时计算过去的所有小窗口总请求数,如果总数超过限流阈值,则拒绝请求。
优点
  • 缓解了计数器算法的临界问题,流量分布更加平滑。
缺点
  • 实现相对复杂,需要额外的存储空间维护多个小时间窗口。
使用场景

适合希望更加平滑限流的场景,尤其是对流量有一定均匀要求的服务。

代码示例(伪代码)
 

java

复制代码

class SlidingWindowLimiter { private int[] windows; private long windowSize; private int maxRequests; public boolean allowRequest() { long now = System.currentTimeMillis(); int currentWindowIndex = getWindowIndex(now); updateWindow(now); int totalRequests = getTotalRequests(); if (totalRequests < maxRequests) { windows[currentWindowIndex]++; return true; } else { return false; } } // 辅助方法省略 }

3. 漏桶算法(Leaky Bucket)

原理

漏桶算法可以看作是一个水桶模型,桶的容量代表系统能处理的最大请求数,请求是向桶中注水,水以固定速率流出。如果桶满了,则会丢弃新的请求。

实现步骤
  • 创建一个固定容量的桶。
  • 请求到达时将其放入桶中,桶以固定的速率处理请求。
  • 如果桶已满,拒绝新请求。
优点
  • 请求处理速率是固定的,能够很好地平滑突发流量。
缺点
  • 固定处理速率可能无法适应某些突发流量大的场景,可能导致部分请求被丢弃。
使用场景

适用于处理具有固定速率的请求处理场景,如网络流量控制等。

代码示例(伪代码)
 

java

复制代码

class LeakyBucketLimiter { private int bucketSize; private long lastLeakTime; private int currentWater; private int leakRate; public boolean allowRequest() { long now = System.currentTimeMillis(); leak(now); if (currentWater < bucketSize) { currentWater++; return true; } else { return false; } } private void leak(long now) { int leakedWater = (int) ((now - lastLeakTime) * leakRate); currentWater = Math.max(0, currentWater - leakedWater); lastLeakTime = now; } }

4. 令牌桶算法(Token Bucket)

原理

令牌桶算法类似于漏桶算法,但它允许一定程度的突发流量。系统以固定的速率生成令牌,令牌存放在桶中。每次请求需要从桶中获取令牌,如果桶中有足够的令牌,则允许请求通过,否则拒绝。

实现步骤
  • 设置一个容量为 bucketSize 的桶,用于存储令牌。
  • 系统以固定速率生成令牌,如果桶未满,令牌将被加入桶中。
  • 请求到达时,尝试从桶中获取令牌,如果有足够的令牌则允许请求,否则拒绝。
优点
  • 支持突发流量,同时保证了整体请求处理的速率。
缺点
  • 实现略微复杂,需要维护生成令牌的过程。
使用场景

适合处理偶发性高并发的场景,如 API 限流和保护下游服务。

代码示例(伪代码)
 

java

复制代码

class TokenBucketLimiter { private int bucketSize; private int tokens; private int refillRate; private long lastRefillTime; public boolean allowRequest() { refill(); if (tokens > 0) { tokens--; return true; } else { return false; } } private void refill() { long now = System.currentTimeMillis(); int newTokens = (int) ((now - lastRefillTime) * refillRate); tokens = Math.min(bucketSize, tokens + newTokens); lastRefillTime = now; } }

5. Redis 计数限流

原理

Redis 可以通过其 INCREXPIRE 命令实现简单高效的限流。每次请求到达时,使用 INCR 增加 Redis 中的计数器,如果计数器超过阈值,则拒绝请求。同时,使用 EXPIRE 为计数器设置过期时间。

实现步骤
  • 每个请求到来时对 Redis 中的计数器进行 INCR
  • 如果计数器在一个时间窗口内超过设定的阈值,则限流。
  • EXPIRE 命令设置计数器的过期时间,以实现限流的时间窗口控制。
优点
  • 分布式环境中非常适合,支持高并发请求的计数和过期时间管理。
缺点
  • Redis 需要额外的存储和网络开销。
使用场景

适用于分布式系统中的限流,尤其是在 API 网关和微服务架构中。

代码示例(伪代码)
 

java

复制代码

class RedisRateLimiter { private RedisClient redis; private String key; private int maxRequests; private int windowTime; public boolean allowRequest() { int count = redis.incr(key); if (count == 1) { redis.expire(key, windowTime); } return count <= maxRequests; } }

总结

算法优点缺点使用场景
计数器算法实现简单,适合小型项目临界点可能导致突发流量简单限流
滑动窗口算法平滑计数器算法的缺点,避免流量突发需要更多的存储空间和实现复杂度流量分布较平滑的场景
漏桶算法固定处理速率,流量控制稳定突发流量支持不佳,可能丢弃请求固定速率的服务
令牌桶算法支持突发流量,保证请求处理的平滑实现复杂,维护令牌生成支持突发流量的限流场景
Redis 限流分布式限流简单高效需要依赖 Redis,增加网络开销

http://www.ppmy.cn/ops/114256.html

相关文章

深入理解数据分析的使用流程:从数据准备到洞察挖掘

数据分析是企业和技术团队实现价值的核心。 5 秒内你能否让数据帮你做出决策&#xff1f; 通过本文&#xff0c;我们将深入探讨如何将原始数据转化为有意义的洞察&#xff0c;帮助你快速掌握数据分析的关键流程。 目录 数据分析的五个核心步骤1. 数据获取常用数据获取方式 2. 数…

CCF-CSP认证考试准备第十七天

写了一些第3题大模拟&#xff0c;难点为题意的理解和字符串的处理&#xff0c;以及一些模拟的难点&#xff0c;考虑到时间迫近&#xff0c;刷第3题效率不怎么高&#xff0c;继续刷之后的第1和2题&#xff0c;保持手感 ### Day17:1.201803-1 2.201803-2 3.201803-3 #### 1.201…

分享一个基于微信小程序的居家养老服务小程序 养老服务预约安卓app uniapp(源码、调试、LW、开题、PPT)

&#x1f495;&#x1f495;作者&#xff1a;计算机源码社 &#x1f495;&#x1f495;个人简介&#xff1a;本人 八年开发经验&#xff0c;擅长Java、Python、PHP、.NET、Node.js、Android、微信小程序、爬虫、大数据、机器学习等&#xff0c;大家有这一块的问题可以一起交流&…

掌握 JavaScript 中的函数表达式

函数表达式是 javascript 中定义函数的一种方式。与函数声明不同&#xff0c;函数表达式可以是匿名的&#xff0c;并且通常用于将函数视为值的情况。在本文中&#xff0c;我们将探讨函数表达式、如何将函数视为值、回调函数以及函数表达式和函数声明之间的差异。 函数表达式 …

一个WebSocket的前端封装类

一、概述 实现一个MyWebSocket的自定义 WebSocket 类&#xff0c;用于建立与服务器的 WebSocket 连接&#xff0c;并提供了一系列方法来处理连接状态、发送和接收消息、自动重连等功能。该类可以方便地在前端项目中实现与服务器的实时通信。 二、实现思路 类的构造函数接收 …

灵当CRM index.php SQL注入漏洞复现

0x01 漏洞描述&#xff1a; 灵当CRM&#xff08;Customer Relationship Management&#xff0c;客户关系管理&#xff09;是一款面向中小企业的客户关系管理软件&#xff0c;旨在帮助企业更好地管理客户信息、销售流程、市场营销和服务支持等方面的工作。灵当CRM提供了一系列工…

C#解决方案的各种操作

C#开发编程软件下载安装 C#开发编程软件下载安装_c#下载安装-CSDN博客文章浏览阅读208次。。。。_c#下载安装https://rxxw-control.blog.csdn.net/article/details/140879228 C#和S7-1200PLC S7.NET通信 C#和S7-1200PLC S7.NET通信_c# s1200 s7协议设置-CSDN博客文章浏览阅读…

[ffmpeg] 录制

整理 ffmpeg 录制用到的一些 API&#xff0c;以及一些理解 API调用 常用API AVFormatContext *avformat_alloc_context(void); // 创建 avformat 上下文结构体 void avformat_free_context(AVFormatContext *s);// int avformat_alloc_output_context2(AVFormatContext **c…