Hystrix配置参数解析大全

news/2024/11/23 0:53:39/

HystrixCommand

配置方式

我们的配置都是基于 HystrixCommand 的,我们通过在方法上添加 @HystrixCommand 注解并配置注解的参数来实现配置,但有的时候一个类里面会有多个 Hystrix 方法,每个方法都是类似配置的话会冗余很多代码,这时候我们可以在类上使用 @DefaultProperties 注解来给整个类的 Hystrix 方法设置一个默认值。

配置项

下面是 HystrixCommand 支持的参数,除了 commandKey/observableExecutionMode/fallbackMethod 外,都可以使用 @DefaultProperties 配置默认值。

  • commandKey:用来标识一个 Hystrix 命令,默认会取被注解的方法名。需要注意:Hystrix 里同一个键的唯一标识并不包括 groupKey,建议取一个独一二无的名字,防止多个方法之间因为键重复而互相影响。

  • groupKey:一组 Hystrix 命令的集合, 用来统计、报告,默认取类名,可不配置。

  • threadPoolKey:用来标识一个线程池,如果没设置的话会取 groupKey,很多情况下都是同一个类内的方法在共用同一个线程池,如果两个共用同一线程池的方法上配置了同样的属性,在第一个方法被执行后线程池的属性就固定了,所以属性会以第一个被执行的方法上的配置为准。

  • commandProperties:与此命令相关的属性。

  • threadPoolProperties:与线程池相关的属性,

  • observableExecutionMode:当 Hystrix 命令被包装成 RxJava 的 Observer 异步执行时,此配置指定了 Observable 被执行的模式,默认是 ObservableExecutionMode.EAGER,Observable 会在被创建后立刻执行,而 ObservableExecutionMode.EAGER模式下,则会产生一个 Observable 被 subscribe 后执行。我们常见的命令都是同步执行的,此配置项可以不配置。

  • ignoreExceptions:默认 Hystrix 在执行方法时捕获到异常时执行回退,并统计失败率以修改熔断器的状态,而被忽略的异常则会直接抛到外层,不会执行回退方法,也不会影响熔断器的状态。

  • raiseHystrixExceptions:当配置项包括 HystrixRuntimeException 时,所有的未被忽略的异常都会被包装成 HystrixRuntimeException,配置其他种类的异常好像并没有什么影响。

  • fallbackMethod:方法执行时熔断、错误、超时时会执行的回退方法,需要保持此方法与 Hystrix 方法的签名和返回值一致。

  • defaultFallback:默认回退方法,当配置 fallbackMethod 项时此项没有意义,另外,默认回退方法不能有参数,返回值要与 Hystrix方法的返回值相同。

commandProperties

配置方式

Hystrix 的命令属性是由 @HystrixProperty 注解数组构成的,HystrixProperty 由 name 和 value 两个属性,数据类型都是字符串。

以下将所有的命令属性分组来介绍。

线程隔离(Isolation)

  • execution.isolation.strategy: 配置请求隔离的方式,有 threadPool(线程池,默认)和 semaphore(信号量)两种,信号量方式高效但配置不灵活,我们一般采用 Java 里常用的线程池方式。

  • execution.timeout.enabled:是否给方法执行设置超时,默认为 true。

  • execution.isolation.thread.timeoutInMilliseconds:方法执行超时时间,默认值是 1000,即 1秒,此值根据业务场景配置。

  • execution.isolation.thread.interruptOnTimeout: execution.isolation.thread.interruptOnCancel:是否在方法执行超时/被取消时中断方法。需要注意在 JVM 中我们无法强制中断一个线程,如果 Hystrix 方法里没有处理中断信号的逻辑,那么中断会被忽略。

  • execution.isolation.semaphore.maxConcurrentRequests:默认值是 10,此配置项要在 execution.isolation.strategy 配置为 semaphore 时才会生效,它指定了一个 Hystrix 方法使用信号量隔离时的最大并发数,超过此并发数的请求会被拒绝。信号量隔离的配置就这么一个,也是前文说信号量隔离配置不灵活的原因。

统计器(Metrics) 

滑动窗口: Hystrix 的统计器是由滑动窗口来实现的,我们可以这么来理解滑动窗口:一位乘客坐在正在行驶的列车的靠窗座位上,列车行驶的公路两侧种着一排挺拔的白杨树,随着列车的前进,路边的白杨树迅速从窗口滑过,我们用每棵树来代表一个请求,用列车的行驶代表时间的流逝,那么,列车上的这个窗口就是一个典型的滑动窗口,这个乘客能通过窗口看到的白杨树就是 Hystrix 要统计的数据。

: bucket 是 Hystrix 统计滑动窗口数据时的最小单位。同样类比列车窗口,在列车速度非常快时,如果每掠过一棵树就统计一次窗口内树的数据,显然开销非常大,如果乘客将窗口分成十分,列车前进行时每掠过窗口的十分之一就统计一次数据,开销就完全可以接受了。 Hystrix 的 bucket (桶)也就是窗口 N分之一 的概念。

  • metrics.rollingStats.timeInMilliseconds:此配置项指定了窗口的大小,单位是 ms,默认值是 1000,即一个滑动窗口默认统计的是 1s 内的请求数据。

  • metrics.healthSnapshot.intervalInMilliseconds:它指定了健康数据统计器(影响 Hystrix 熔断)中每个桶的大小,默认是 500ms,在进行统计时,Hystrix 通过 metrics.rollingStats.timeInMilliseconds / metrics.healthSnapshot.intervalInMilliseconds 计算出桶数,在窗口滑动时,每滑过一个桶的时间间隔时就统计一次当前窗口内请求的失败率。

  • metrics.rollingStats.numBuckets:Hystrix 会将命令执行的结果类型都统计汇总到一块,给上层应用使用或生成统计图表,此配置项即指定了,生成统计数据流时滑动窗口应该拆分的桶数。此配置项最易跟上面的 metrics.healthSnapshot.intervalInMilliseconds 搞混,认为此项影响健康数据流的桶数。 此项默认是 10,并且需要保持此值能被 metrics.rollingStats.timeInMilliseconds 整除。

  • metrics.rollingPercentile.enabled:是否统计方法响应时间百分比,默认为 true 时,Hystrix 会统计方法执行的 1%,10%,50%,90%,99% 等比例请求的平均耗时用以生成统计图表。

  • metrics.rollingPercentile.timeInMilliseconds:统计响应时间百分比时的窗口大小,默认为 60000,即一分钟。

  • metrics.rollingPercentile.numBuckets:统计响应时间百分比时滑动窗口要划分的桶用,默认为6,需要保持能被metrics.rollingPercentile.timeInMilliseconds 整除。

  • metrics.rollingPercentile.bucketSize:统计响应时间百分比时,每个滑动窗口的桶内要保留的请求数,桶内的请求超出这个值后,会覆盖最前面保存的数据。默认值为 100,在统计响应百分比配置全为默认的情况下,每个桶的时间长度为 10s = 60000ms / 6,但这 10s 内只保留最近的 100 条请求的数据。

熔断器(Circuit Breaker) 

  • circuitBreaker.enabled:是否启用熔断器,默认为 true;

  • circuitBreaker.forceOpen: circuitBreaker.forceClosed:是否强制启用/关闭熔断器,强制启用关闭都想不到什么应用的场景,保持默认值,不配置即可。

  • circuitBreaker.requestVolumeThreshold:启用熔断器功能窗口时间内的最小请求数。试想如果没有这么一个限制,我们配置了 50% 的请求失败会打开熔断器,窗口时间内只有 3 条请求,恰巧两条都失败了,那么熔断器就被打开了,5s 内的请求都被快速失败。此配置项的值需要根据接口的 QPS 进行计算,值太小会有误打开熔断器的可能,值太大超出了时间窗口内的总请求数,则熔断永远也不会被触发。建议设置为 QPS * 窗口秒数 * 60%

  • circuitBreaker.errorThresholdPercentage:在通过滑动窗口获取到当前时间段内 Hystrix 方法执行的失败率后,就需要根据此配置来判断是否要将熔断器打开了。 此配置项默认值是 50,即窗口时间内超过 50% 的请求失败后会打开熔断器将后续请求快速失败。

  • circuitBreaker.sleepWindowInMilliseconds:熔断器打开后,所有的请求都会快速失败,但何时服务恢复正常就是下一个要面对的问题。熔断器打开时,Hystrix 会在经过一段时间后就放行一条请求,如果这条请求执行成功了,说明此时服务很可能已经恢复了正常,那么会将熔断器关闭,如果此请求执行失败,则认为服务依然不可用,熔断器继续保持打开状态。此配置项指定了熔断器打开后经过多长时间允许一次请求尝试执行,默认值是 5000。

其他(Context/Fallback)

  • requestCache.enabled:是否启用请求结果缓存。默认是 true,但它并不意味着我们的每个请求都会被缓存。缓存请求结果和从缓存中获取结果都需要我们配置 cacheKey,并且在方法上使用 @CacheResult 注解声明一个缓存上下文。

  • requestLog.enabled:是否启用请求日志,默认为 true。

  • fallback.enabled:是否启用方法回退,默认为 true 即可。

  • fallback.isolation.semaphore.maxConcurrentRequests:回退方法执行时的最大并发数,默认是10,如果大量请求的回退方法被执行时,超出此并发数的请求会抛出 REJECTED_SEMAPHORE_FALLBACK 异常。

threadPoolProperties

配置方式

  • coreSize:核心线程池的大小,默认值是 10,一般根据 QPS * 99% cost + redundancy count 计算得出。

  • allowMaximumSizeToDivergeFromCoreSize:是否允许线程池扩展到最大线程池数量,默认为 false;

  • maximumSize:线程池中线程的最大数量,默认值是 10,此配置项单独配置时并不会生效,需要启用 allowMaximumSizeToDivergeFromCoreSize 项。

  • maxQueueSize:作业队列的最大值,默认值为 -1,设置为此值时,队列会使用 SynchronousQueue,此时其 size 为0,Hystrix 不会向队列内存放作业。如果此值设置为一个正的 int 型,队列会使用一个固定 size 的 LinkedBlockingQueue,此时在核心线程池内的线程都在忙碌时,会将作业暂时存放在此队列内,但超出此队列的请求依然会被拒绝。

  • queueSizeRejectionThreshold:由于 maxQueueSize 值在线程池被创建后就固定了大小,如果需要动态修改队列长度的话可以设置此值,即使队列未满,队列内作业达到此值时同样会拒绝请求。此值默认是 5,所以有时候只设置了 maxQueueSize 也不会起作用。

  • keepAliveTimeMinutes:由上面的 maximumSize,我们知道,线程池内核心线程数目都在忙碌,再有新的请求到达时,线程池容量可以被扩充为到最大数量,等到线程池空闲后,多于核心数量的线程还会被回收,此值指定了线程被回收前的存活时间,默认为 2,即两分钟。

工作方式 

Hystrix 内线程池的使用是基于 Java 内置线程池的简单包装,通常有以下三种状态:

  • 如果请求量少,达不到 coreSize,通常会使用核心线程来执行任务。
  • 如果设置了 maxQueueSize,当请求数超过了 coreSize, 通常会把请求放到 queue 里,待核心线程有空闲时消费。
  • 如果 queue 长度无法存储请求,则会创建新线程执行直到达到 maximumSize 最大线程数,多出核心线程数的线程会在空闲时回收。

配置示例 

hystrix:threadpool:default:allowMaximumSizeToDivergeFromCoreSize: falsecoreSize: 10maximumSize: 10keepAliveTimeMinutes: 1 # 单位minutemaxQueueSize: -1queueSizeRejectionThreshold: 5customName:allowMaximumSizeToDivergeFromCoreSize: truecoreSize: 2maximumSize: 15keepAliveTimeMinutes: 1 # 单位minutemaxQueueSize: 5queueSizeRejectionThreshold: 12command:default:threadPoolKeyOverride: default # scg独有参数,用来确定threadpoolcircuitBreaker:enabled: trueerrorThresholdPercentage: 50requestVolumeThreshold: 20sleepWindowInMilliseconds: 5000execution:isolation:strategy: THREADthread:timeoutInMilliseconds: 5000timeout:enabled: truemetrics:rollingStats:timeInMilliseconds: 10000 # 统计请求状态的时间窗口numBuckets: 10customName:threadPoolKeyOverride: customNamecircuitBreaker:enabled: trueerrorThresholdPercentage: 100requestVolumeThreshold: 1000sleepWindowInMilliseconds: 5000execution:isolation:strategy: THREADthread:timeoutInMilliseconds: 15000timeout:enabled: truemetrics:rollingStats:timeInMilliseconds: 20000numBuckets: 10

上面的配置是一个典型的Hystrix配置项,每个配置项都有默认值,其中声明为default的threadpool和command对应的值,就是系统默认的值.

同时,又声明的一组customName的配置,这个是作为对比.当然,还可以定义很多组配置.

这个配置里面有个参数threadPoolKeyOverride表示该command对应的threadpool的名字

在网关中,应用是如何配置Hystrix的呢?

首先,网关是通过Filter来使用Hystrix,所以,只需要在Route配置里,声明HystrixFilter即可,具体配置如下:

spring:cloud:gateway:routes:- id: lb2useruri: lb://service-orderorder: 1000filters:- name: Hystrixargs:name: customNamefallbackUri: forward:/fallback- AuthFilter=f,bpredicates:- Path=/user/**

其中参数args.name对应于command的名称.通过给不同的Route配置不同name的command可以实现断路器的独立,避免共用断路器造成的全部接口不可用.

下面有几个容易出错的地方:

隔离方式

1. 信号量

1) QPS: 467

2) RT:

MIN: 2ms, MAX: 1100ms, AVG:31.4ms

3) 实例数: 2*3

4) 单台QPS: 80

5) 信号量并发数计算公式: cc = QPS/(1000/RT)

2. 线程隔离:

1) 网关(异步服务)无法限流

2) 网关(异步服务)支持超时降级和熔断

3) 熔断条件:

<1>单位时间(默认1s)内请求数 >= requestVolumeThreshold

<2>各类失败总数/总请求数 >= errorThresholdPercentage

<3>熔断一次停服时间sleepWindowInMilliseconds

hystrix:command:default:circuitBreaker:enabled: trueerrorThresholdPercentage: 50requestVolumeThreshold: 100sleepWindowInMilliseconds: 15000

4) 线程配置(同步服务):

<1>同步线程数计算公式: cc = QPS/(1000/RT)

<2>可以通过参数allowMaximumSizeToDivergeFromCoreSize=true开启maximumSize来动态调整线程数

<3>参数queueSizeRejectionThreshold决定服务最大接受请求数(<=maximumSize+maxQueueSize)

<4>参数maxQueueSize表示任务队列长度。值为-1,则队列长度为0;值为int,则队列长度为int数。决定如何处理已接受请求,队列满后,才会根据maximumSize判断是否新建线程

<5>参数keepAliveTimeMinutes为非核心线程等待回收时间,默认值:2 分钟

<6>参数coreSize表示核心线程数

<7>参数maximumSize表示最大线程数


hystrix:threadpool:default:coreSize: 15allowMaximumSizeToDivergeFromCoreSize: truemaximumSize: 25maxQueueSize: -1queueSizeRejectionThreshold: 10keepAliveTimeMinutes: 2


http://www.ppmy.cn/news/126700.html

相关文章

【专题5: 硬件设计】 之 【43.案例三:碎纸机,完整电路图和系统功率计算】

希望本是无所谓有&#xff0c;无所谓无的&#xff0c;这正如脚下的路&#xff0c;其实地上本没有路&#xff0c;走的人多了&#xff0c;也便成了路原创不易&#xff0c;文章会持续更新文章会同步到作者个人公众号上&#xff0c;感谢扫码关注 所有文章总目录&#xff1a;【嵌入式…

S-Paper电子纸在生产车间中的应用

S-Paper电子纸在生产车间中的应用 应用背景 在传统的制造企业的生产流程中&#xff0c;生产线上的工件信息&#xff0c;加工信息等等在生产前都需要生产车间打印出来&#xff0c;然后再分发至生产线上对应的工件工位&#xff0c;纸张都是使用完后都是作废销毁&#xff0c;这样下…

裁纸刀。。

小蓝有一个裁纸刀&#xff0c;每次可以将一张纸沿一条直线裁成两半。 小蓝用一张纸打印出两行三列共 6 个二维码&#xff0c;至少使用九次裁出来&#xff0c;下图给出了一种裁法。 在上面的例子中&#xff0c;小蓝的打印机没办法打印到边缘&#xff0c;所以边缘至少要裁 4 次。…

【专题5: 硬件设计】 之 【27.案例三:碎纸机,产品需求】

希望本是无所谓有&#xff0c;无所谓无的&#xff0c;这正如脚下的路&#xff0c;其实地上本没有路&#xff0c;走的人多了&#xff0c;也便成了路原创不易&#xff0c;文章会持续更新文章会同步到作者个人公众号上&#xff0c;感谢扫码关注 所有文章总目录&#xff1a;【嵌入式…

百练#2803碎纸机

描述 你现在负责设计一种新式的碎纸机。一般的碎纸机会把纸切成小片&#xff0c;变得难以阅读。而你设计的新式的碎纸机有以下的特点&#xff1a; 1.每次切割之前&#xff0c;先要给定碎纸机一个目标数&#xff0c;而且在每张被送入碎纸机的纸片上也需要包含一个数。 2.碎纸机…

智能洗地机十大品牌、十大洗地机品牌排行榜

洗地机作为目前最火的智能清洁产品&#xff0c;相比常见的清洁工具&#xff0c;它不仅解放了人的双手&#xff0c;同时也保证了清洁的效果。对于那些每天都需要把卫生搞好的人来说&#xff0c;简直就是福音。由于目前智能家用洗地机的的选择越来越多&#xff0c;加上市面上的清…

【专题5: 硬件设计】 之 【32.案例三:碎纸机,比较器】

希望本是无所谓有&#xff0c;无所谓无的&#xff0c;这正如脚下的路&#xff0c;其实地上本没有路&#xff0c;走的人多了&#xff0c;也便成了路原创不易&#xff0c;文章会持续更新文章会同步到作者个人公众号上&#xff0c;感谢扫码关注 所有文章总目录&#xff1a;【嵌入式…

【专题5: 硬件设计】 之 【41.案例三:碎纸机,检测纸张数量】

希望本是无所谓有&#xff0c;无所谓无的&#xff0c;这正如脚下的路&#xff0c;其实地上本没有路&#xff0c;走的人多了&#xff0c;也便成了路原创不易&#xff0c;文章会持续更新文章会同步到作者个人公众号上&#xff0c;感谢扫码关注 所有文章总目录&#xff1a;【嵌入式…