高可用系列四:loadbalancer 负载均衡

devtools/2024/9/22 21:35:32/

负载均衡可以单独使用,也常常与注册中心结合起来使用,其需要解决的问题是流量分发,这是就需要定义分发策略,当然也包括了故障切换的能力。

故障切换

故障切换是负载均衡的基本能力,和注册中心结合时比较简单,直接获取注册中心中可用的健康服务列表,根据负载均衡策略进行数据分发,因为注册中心往往存在健康服务延迟下线的问题,因此更完善的机制是在重试时优先其他节点。

在没有注册中心的场景下,需要类似熔断的策略,进行目标服务健康状态标记,被熔断时将目标实例加入熔断名单,单位时间内进行恢复验证,验证成功后恢复服务健康状态

在以上策略外,往往还会需要一个兜底的方案,即所有实例都无法匹配上时,一般也会从所有列表中随机选择一个实例进行请求分发

分发策略

另一个核心是分发策略,常见的策略有:

  1. 随机选择策略,即请求进来以后,随机选择一个健康实例进行分发
  2. 权重策略,根据权重,分发请求时可以根据权重概率进行计算,权重高的实例有更高的概率被分发到请求
  3. 轮询策略,实例列表依次分发,相当于均匀分发请求到实例上
  4. 标签策略,可以根据请求标签,优先选择相同或满足一定条件的标签查找实例进行分发,在此基础上,便可以实现同区机房优先、版本兼容优先(即灰度)等衍生场景,后面的技巧中也是使用了该特性进行变种满足特殊需求。当然这个标签需要往下传递,从请求到各个服务节点,可以透传或者根据本身服务的特点进行修改标签。

网络策略也不是只固定一种,比如标签策略和其他策略混合使用,先使用标签策略减小实例范围,再根据其他策略进行二次实例选择。

技巧——巧用开发环境

众所周知,在微服务开发中,因为服务切分的问题,往往开发者的电脑”负担“也会很重,执行效率也会收到影响。很多时候,不仅要运营正在开发的服务,还需要运行一系列的相关服务才能测试全流程。运行服务要花时间,电脑也越来越卡,影响开发测试效率。

一般公司都会建立公共的开发测试环境,里面会运行所有的服务,这时,如果可以使用公共环境结合测试本地服务,本地只需要运行有修改的服务,同时又不影响其他人的测试,那么整体的开发测试效率会大大提升,这里提供一个方法和思路:

  1. 对接口进行打标,比如增加特定的请求 header
  2. 本地服务启动时,使用特定的服务标签运行,比如nacos中可以扩展metaData
  3. 服务接收到请求后,负载均衡先检查是否有请求相同标签的实例,有则优先访问相同标签实例,没有则优先选择没有标签的实例,最后选择其他实例
  4. 开发环境可能部署在特殊的内网中,此时需要改造特殊标签实例和没有特殊标签实例的请求地址,重定向到特定的网络端口进行分发

总结

负债均衡也是高可用中很重要的一环,而且巧用负载均衡,还可以实现开发环境中降本增效的效果。


http://www.ppmy.cn/devtools/31070.html

相关文章

Arduino 推出带 Wi-Fi的 32 位 UNO 板

Arduino 推出了下一代 UNO 板,引入了 32 位 Renesas 微控制器和 Espressif ESP32-S3 模块、一键云连接和大量 I/O 以及 128 红色 LED 矩阵。新型 UNO R4 板有两个版本,带 Wi-Fi 连接和不带 Wi-Fi 连接,并保持了 UNO R3 的外形尺寸、屏蔽兼容性…

工具链工具——映射与调度、模拟与验证、开发与测试工具

本篇文章将重点介绍工具链的工具相关知识,我们将从工具链的基本概念出发,重点介绍工具链中的映射和调度工具、模拟与验证工具、开发和测试工具,最后提出对工具链发展的展望,从而对工具链的工具进行一个较为系统的讲解。 工具链的…

网络安全之密码学技术

文章目录 网络信息安全的概念数据加密|解密概念密码学概论密码学分类古典密码学现代密码学 现代密码学的相关概念对称加密算法对称加密算法—DES对称加密算法—3DES对称加密算法—AES对称加密算法—IDEA 非对称加密算法非对称加密算法—RSA非对称加密算法—ElGamal非对称加密算…

Matlab|基于多目标粒子群算法的微电网优化调度

目录 1 主要内容 2 部分代码 3 效果图 4 下载链接 1 主要内容 本程序为《基于多目标粒子群算法的微电网优化调度》-王金全文章的方法复现,考虑因素较文章复杂,除了考虑基本机组、储能等的出力,还考虑了弃风和弃光,很值得大家…

C++ 重载 [] 运算符

刚开始我是震惊的! 我从未想过[]下居然有逻辑! 从学步开始 曾因会使用a[0]访问数组元素而沾沾自喜 曾固步自封的认为[] ,理应是访问数组的一种方式 天真快乐的同时,认为[]只是一个无情的标识! 所以 当我们写下a[0]时,究竟是为了什么? 是为了找到a[0]对应的值 那么如何…

cookie、session、token

cookie 纳入标准文档,标准浏览器需要遵守的协议之一,作为标准浏览器必须支持的。 WEB应用都是基于HTTP协议,标准的HTTP协议是无状态的。 什么是无状态? 不管是谁,不管是从哪个地方发起的请求。只要你的请求&#xff08…

android init进程启动流程

Android系统完整的启动流程 android 系统架构图 init进程的启动流程 init进程启动服务的顺序 bool Service::Start() {// Starting a service removes it from the disabled or reset state and// immediately takes it out of the restarting state if it was in there.flags_…

contentprovider一直报错,发现是android 的manifest中 provider 放在activity后面不行

在Android应用的AndroidManifest.xml文件中,所有的组件(如activity、service、receiver和provider)必须在该文件中按正确的顺序声明。在Android 8.0(API 级别 26)及更高版本中,如果provider组件放置在activ…