常见的限流算法

devtools/2024/12/28 14:57:01/

常见的限流算法

限流的定义

限流,也称流量控制。是指系统在面临高并发,或者大流量请求的情况下,限制新的请求对系统的访问,从而保证系统的稳定性。限流会导致部分用户请求处理不及时或者被拒,这就影响了用户体验。所以一般需要在系统稳定和用户体验之间平衡一下。

一般对于一些调用需要付费的接口,对用户进行限流操作,限制用户的请求次数
比如:限制单个用户每秒只使用一次

固定窗口算法

单位时间内允许部分操作
维护一个计数器,将单位时间段当做一个窗口,计数器记录这个窗口接收请求的次数。
当次数少于限流阀值,就允许访问,并且计数器+1 当次数大于限流阀值,就拒绝访问。
当前的时间窗口过去之后,计数器清零,开始下一个窗口。

假设单位时间是1秒,限流阀值为3。在单位时间1秒内,每来一个请求,计数器就加1,如果计数器累加的次数超过限流阀值3,后续的请求全部拒绝。等到1s结束后,计数器清0,重新开始计数

优点:实现简单
缺点:会出现流量突刺

在这里插入图片描述

滑动窗口算法

单位时间内允许部分操作,但这个单位时间是滑动的,需要指定一个滑动单位。

优点:解决了流量突刺问题
缺点:实现较麻烦,很难找到准确的滑动单位,滑动单位越小,效果越好。

在这里插入图片描述

漏桶算法(推荐)

固定速率处理请求(漏水操作),当请求桶满了之后,就拒绝请求

在这里插入图片描述

优点:在一定程度上能够应对流量突刺,以固定速率处理请求,能够保证服务器的安全
缺点:无法迅速的对请求做出处理,只能一个个按顺序处理(固定速率处理的缺点)

令牌桶算法(推荐)

以固定速率向令牌桶添加令牌,每个令牌代表一定数量的请求,请求需要获取令牌之后才能够被处理。没有令牌的请求会被拒绝。
在这里插入图片描述

优点:能够并发的处理请求,并发的性能会更高一点
缺点:还是存在时间单位选取的问题

限流粒度

1.针对某个方法进行限流,单位时间内最多允许XXX个操作使用使用这个方法。
2,针对某个用户进行限流,某个用户单位时间内最多执行XXX个操作
3.针对某个用户X方法,单个用户单位时间内最多执行XXX次这个方法

本地限流(单机限流

这里采用谷歌的Guava RateLimiter实现

java">import com.google.common.util.concurrent.RateLimiter;public static void main(String[] args) {// 每秒限流5个请求RateLimiter limiter = RateLimiter.create(5.0);while (true) {if (limiter.tryAcquire()) {// 处理请求} else {// 超过流量限制,需要做何处理}}
}

分布式限流(多机限流

如果你的项目有多个服务器,比如微服务,那么建议使用分布式限流
1.把用户的使用频率等数据放到一个集中的存储进行统计;比如Redis,这样无论用户的
请求落到了哪台服务器,都以集中存储中的数据为准。(Redisson --是一个操作 Redis 的工具库)
2.在网关集中进行限流和统计(比如 SentinelSpring Cloud Gateway)

java">import org.redisson.Redisson;
import org.redisson.api.RSemaphore;
import org.redisson.api.RedissonClient;public static void main(String[] args) {// 创建RedissonClientRedissonClient redisson = Redisson.create();// 获取限流RSemaphore semaphore = redisson.getSemaphore("mySemaphore");// 尝试获取许可证boolean result = semaphore.tryAcquire();if (result) {// 处理请求} else {// 超过流量限制,需要做何处理}
}

分布式限流的实现

redission配置

java">package com.cheng.config;import org.redisson.config.Config;
import lombok.Data;
import org.redisson.Redisson;
import org.redisson.api.RedissonClient;
import org.springframework.boot.context.properties.ConfigurationProperties;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;@Configuration
@ConfigurationProperties(prefix = "spring.redis")
@Data
public class RedissonConfig {private String host;private Integer port;private Integer database;private String password;@Beanpublic RedissonClient redissonClient() {Config config = new Config();config.useSingleServer().setAddress("redis://" + host + ":" + port).setDatabase(database).setPassword(password);return Redisson.create(config);}
}

RedisLimiterManager服务的实现

java">package com.cheng.manager;import com.cheng.common.ErrorCode;
import com.cheng.exception.BusinessException;
import org.redisson.api.RRateLimiter;
import org.redisson.api.RateIntervalUnit;
import org.redisson.api.RateType;
import org.redisson.api.RedissonClient;
import org.springframework.stereotype.Service;import javax.annotation.Resource;/*** 专门提供 RedisLimiter 限流基础服务*/
@Service
public class RedisLimiterManager {@Resourceprivate RedissonClient redissonClient;/*** 采用令牌桶限流算法* 每个用户一个限流器** 限流操作** @param key 区分不同的限流器,比如不同的用户 id 应该分别统计*/public void doRateLimit(String key) {// 创建一个名称为user_limiter的限流器,每秒最多访问 2 次RRateLimiter rateLimiter = redissonClient.getRateLimiter(key);//RateType.OVERALL 统一速率,全局的rateLimiter.trySetRate(RateType.OVERALL, 2, 1, RateIntervalUnit.SECONDS);// 每当一个操作来了后,请求一个令牌boolean canOp = rateLimiter.tryAcquire(1);if (!canOp) {throw new BusinessException(ErrorCode.REQUEST_OVER);}}
}

测试类

java">package com.cheng.springbootinit.manager;import org.junit.jupiter.api.Test;
import org.springframework.boot.test.context.SpringBootTest;import javax.annotation.Resource;import static org.junit.jupiter.api.Assertions.*;@SpringBootTest
class RedisLimiterManagerTest {@Resourceprivate RedisLimiterManager redisLimiterManager;@Testvoid doRateLimit() throws InterruptedException {// 模拟一下操作String userId = "1";// 瞬间执行2次,每成功一次,就打印'成功'for (int i = 0; i < 2; i++) {redisLimiterManager.doRateLimit(userId);System.out.println("成功");}// 睡1秒Thread.sleep(1000);// 瞬间执行5次,每成功一次,就打印'成功'for (int i = 0; i < 5; i++) {redisLimiterManager.doRateLimit(userId);System.out.println("成功");}}
}

http://www.ppmy.cn/devtools/146141.html

相关文章

JavaScript 前端开发 是什么?

一、引言 JavaScript 作为前端开发领域的核心语言&#xff0c;在构建现代 Web 应用程序中发挥着至关重要的作用。从创建交互性网页元素到构建复杂的单页应用&#xff08;SPA&#xff09;和 Progressive Web App&#xff08;PWA&#xff09;&#xff0c;JavaScript 的应用无处不…

AIGC与娱乐产业:颠覆创意与生产的新力量

个人主页&#xff1a;云边有个稻草人-CSDN博客 目录 引言 第一部分&#xff1a;AIGC技术概述 1.1 AIGC的基本原理 1.2 AIGC在娱乐产业中的应用 第二部分&#xff1a;AIGC在娱乐产业的实际应用案例 2.1 自动生成音乐&#xff1a;AIGC如何创作旋律 示例代码&#xff1a;使…

【自信息、信息熵、联合熵、条件熵、互信息】

文章目录 一、自信息 I(X)二、信息熵&#xff1a;衡量系统的混乱程度信息熵 H(X)联合熵 H(X,Y) 三、条件熵H(Y|X) 联合熵H(X,Y) - 信息熵H(X)四、互信息 I(X,Y)五、总结References 一、自信息 I(X) 自信息(Self-information) 是由香农提出的&#xff0c;用来衡量单一事件发生…

PDF书籍《手写调用链监控APM系统-Java版》第5章 插桩插件与bytebuddy字节码增强

本人阅读了 Skywalking 的大部分核心代码&#xff0c;也了解了相关的文献&#xff0c;对此深有感悟&#xff0c;特此借助巨人的思想自己手动用JAVA语言实现了一个 “调用链监控APM” 系统。本书采用边讲解实现原理边编写代码的方式&#xff0c;看本书时一定要跟着敲代码。 作者…

如何实现底部导航栏

文章目录 1 概念介绍2 使用方法3 示例代码我们在上一章回中介绍了TextField Widget,本章回中将介绍BottomNavigationBar Widget。闲话休提,让我们一起Talk Flutter吧。 1 概念介绍 我们在本章回中将介绍一个新的Widget:BottomNavigationBar,它就是我们经常在App中看到了底部…

【ES6复习笔记】模板字符串(3)

介绍 模板字符串是 ES6 引入的一种新的字符串声明方式&#xff0c;它使用反引号&#xff08;&#xff09;来定义字符串&#xff0c;而不是单引号&#xff08;&#xff09;或双引号&#xff08;"&#xff09;。模板字符串可以包含变量、表达式和换行符&#xff0c;这使得它…

mongodb和Cassandra

mongodb的一致性问题&#xff1a; 15.MongoDB的一致性(读关注与写关注)_mongo w选项-CSDN博客 孤儿节点问题&#xff1a; 技术干货 | MongoDB 偶遇孤儿文档及处理方法-腾讯云开发者社区-腾讯云 分片集群MongoDB迁移前清除孤儿文档 由数据迁移至MongoDB导致的数据不一致问题…

ctfshow-web 151-170-文件上传

我们首先想到就是上传一句话木马。但是看源代码限制了png。 &#xff08;1&#xff09;改前端代码。 这里是前端限制了上传文件类型&#xff0c;那我们就改一下就好了嘛,改成php。 这里直接修改不行&#xff0c;给大家推荐一篇简短文章&#xff0c;大家就会了&#xff08;一开始…