微服务保护之熔断降级

server/2024/9/22 22:06:43/

微服务架构中,服务之间的调用是通过网络进行的,网络的不确定性和依赖服务的不可控性,可能导致某个服务出现异常或性能问题,进而引发整个系统的故障,这被称为 微服务雪崩。为了防止这种情况发生,常用的一些保护措施包括超时处理熔断降级限流线程池隔离信号量隔离等。

(1)超时处理:设定超时时间,请求超过一定时间没有响应就返回错误信息,不会无休止等待。

(2)熔断降级:当服务的异常数或异常比例超过了预设的阈值时,熔断器会进入开启状态,暂时中断对该服务的请求,此时走降级方法,能够快速响应,确保系统的基本功能能够继续运行。

(3)限流:限制对服务的请求速率,避免短时间内大量的请求导致系统崩溃。

(4)线程池隔离:给要请求的资源分配一个线程池,通过线程池去控制请求数量

(5)信号量隔离:使用计数器模式,记录请求资源的并发线程数量,达到信号量上限时,禁止新的请求。

信号量隔离适合同步请求,控制并发数,比如:对文件的下载并发数进行控制。

大多数场景都适合使用线程池隔离,对于需要同步操作控制并发数的场景可以使用信号量隔离。

1. 熔断降级的背景

微服务架构中,服务之间的依赖复杂,任何一个服务的故障都有可能引发连锁反应,导致服务雪崩。为此,引入熔断降级机制,当某个服务长时间无法响应或者发生错误时,系统可以快速进入降级模式,避免对外提供错误服务。

熔断降级的核心流程包括:

  1. 降级:当远程调用发生异常时,不继续等待,而是直接执行降级逻辑,返回预设的结果。
  2. 熔断:当异常达到某个阈值时,熔断器打开,短时间内不再调用出问题的服务,而是走降级处理,防止继续调用带来更多问题。
  3. 恢复:当经过一段时间后,系统尝试再次调用原服务,如果服务恢复正常,则关闭熔断,恢复正常调用。

2. 熔断降级的具体实现步骤

当远程调用发生异常首先走降级方法,当异常比较或异常数达到阈值将触发熔断,在熔断时间内不再走原来的方法而是走降级方法,可以快速进行响应。

当服务恢复后,熔断时间结束此时会再次尝试请求服务,如果成功请求将关闭熔断,恢复原来的链路。

2.1 在客户端 api 工程定义远程调用接口

在 api 工程中,定义远程调用的接口。这个接口将通过 Feign 进行服务调用。接口通过 @FeignClient 注解进行标注,指定服务名称和请求的路径。

java">package com.jzo2o.api.user;import org.springframework.cloud.openfeign.FeignClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PathVariable;// 通过 @FeignClient 指定远程服务的名称 user-service
@FeignClient(name = "user-service", path = "/user/api/users")
public interface UserServiceClient {// 定义要调用的远程服务的接口,@GetMapping 表示通过 GET 方法访问@GetMapping("/{id}")User getUserById(@PathVariable("id") Long id);
}

@FeignClient:表示这是一个 Feign 客户端,name 为服务提供者的名称,url 指定服务的地址(可省略,使用服务发现时)。
@GetMapping("/api/users/{id}"):声明需要调用的接口路径。
此接口只定义远程调用的方法,不需要具体实现,Feign 会自动为它生成代理类。

2.2 服务消费者中实现熔断降级

如果在 api 工程定义的远程调用接口中实现统一的熔断降级,则后续所有的消费者都是同一个熔断降级策略,不符合实际工程应用。故在每一个消费者中定义专门远程调用的类实现远程调用、熔断降级逻辑。

使用@SentinelResource注解定义sentinel监控的资源,@SentinelResource注解的属性具体包括。

value: 用于定义资源的名称,即 Sentinel 会对该资源进行流量控制和熔断降级

fallback :非限流、熔断等导致的异常执行的降级方法

blockHandler :触发限流、熔断时执行的降级方法

java">@Component
@Slf4j
public class OrderClient {@Resourceprivate UserServiceClient userServiceClient;// 通过 UserServiceClient 调用远程的用户服务@SentinelResource(value = "getUserInfo", fallback = "detailFallback", blockHandler = "detailBlockHandler")public User getUserInfo(Long userId) {// 调用 api 中定义的远程服务接口return userServiceClient.getUserById(userId);}//执行异常走public User detailFallback(Long id, Throwable throwable) {log.error("非限流、熔断等导致的异常执行的降级方法,id:{},throwable:", id, throwable);return null;}//熔断后的降级逻辑public User detailBlockHandler(Long id, BlockException blockException) {log.error("触发限流、熔断时执行的降级方法,id:{},blockException:", id, blockException);return null;}
}

2.3 服务消费者调用实现熔断降级的方法

java">@Service
public class OrderService {@Resourceprivate OrderClient orderClient ;// 通过 orderClient 调用远程的用户服务public User getUserInfo(Long userId) {// 调用 OrderClient 的方法return orderClient .getUserInfo(userId);}
}

2.4 在sentinel中配置熔断规则

进入sentinel控制台,左侧点击簇点链路,然后右侧选择getUserInfo,选择+熔断

为了方便测试熔断效果配置异常数规则,如下:

5秒以内最少请求2次,有1次异常则进行熔断熔断时长为30秒。


http://www.ppmy.cn/server/120486.html

相关文章

SpinalHDL之结构(三)

本文作为SpinalHDL学习笔记第六十三篇,介绍SpinalHDL的函数(Function)。 目录: 1.简介(Introduction) 2.RGA到灰度(RGB to grey) 3.Valid和Ready负载总线(Valid Ready Payload bus) ⼀、简介(Introduction) ⽤Scala函数产⽣硬件的⽅式与VHDL/Verilog…

Poetry超好用python依赖、包管理工具

介绍 Poetry 用一个pyproject.toml 代替 setup.py, requirements.txt, setup.cfg, MANIFEST.in and Pipfile文件。 用过vue的肯定看上去会无比熟悉,类似于package.json文件。 [tool.poetry] name "my-package" version "0.1.0" description…

redis 十大应用场景

Redis 是一个开源的内存数据结构存储系统,广泛应用于各种场景,尤其在高性能、低延迟需求的场景中。以下是 Redis 的一些典型应用场景: 1. 缓存系统 Redis 最常见的用途之一是作为缓存系统,以减少数据库访问的频率,提升…

linux下的日志编写

1、日志初始化创建 2、日志写入 3、日志关闭 log.c #include "log.h"static log_t LOG;//初始化日志文件,在当前目录创建日志文件 int log_init(char *pdirname) {time_t t;struct tm *ptm NULL;char filepath[64] {0};int ret 0;time(&t);ptm …

Qt:懒汉单例(附带单例使用和内存管理)

前言 本文主要写懒汉单例以及单例的释放,网上很多教程只有单例的创建,但是并没有告诉我们单例的内存管理,这就很头疼。 正文 以下是两种懒汉单例的写法 1. 懒汉式单例(多线程不安全,但是在单线程里面是安全的&…

pytorch实现RNN网络

目录 1.导包 2. 加载本地文本数据 3.构建循环神经网络层 4.初始化隐藏状态state 5.创建随机的数据,检测一下代码是否能正常运行 6. 构建一个完整的循环神经网络 7.模型训练 8.个人知识点理解 1.导包 import torch from torch import nn from torch.nn imp…

如何将生物序列tokenization为token?

文章目录 原理讲解:代码实现:利用k-mer技术把核苷酸或氨基酸序列tokenization成token输入文件和结果文件: 原理讲解: tokenization是自然语言处理领域非常成熟的一项技术,tokenization就是把我们研究的语言转换成计算…

macOS平台(intel)编译MAVSDK安卓平台SO库

1.下载MAVSDK: git clone https://github.com/mavlink/MAVSDK.git --recursive 2.编译liblzma 修改CMakeLists.txt文件增加C与CXX指令-fPIC set(CMAKE_C_FLAGS "-fPIC ${CMAKE_C_FLAGS}") set(CMAKE_CXX_FLAGS "-fPIC ${CMAKE_CXX_FLAGS}") 修改如下:…