并发高负载场景下的负载均衡优化方案

embedded/2024/9/24 4:46:17/

 700fad6034223f803e506c5dad625a0c.jpeg

并发高负载场景下,负载均衡优化技术

   

456b256348bb022a3c20d192b635932a.jpeg

负载均衡是一种计算机技术,主要用于在多个计算机(如计算机集群)、网络连接、CPU、硬盘驱动器或其他资源中分配工作负载。 其主要目标是优化资源使用、最大化吞吐率、最小化响应时间,同时避免任何一个资源的过载。 在实际应用中,负载均衡通常通过使用多个服务器组件来替代单一的组件,以提高系统的可靠性和冗余性。 这些服务器组件可以是物理服务器,也可以是虚拟机。 

负载均衡服务通常由专用的软件和硬件(如负载均衡器)来完成。 在互联网架构中,负载均衡主要用于解决高并发和高可用性的问题。 例如,当一个网站的访问量突然增加时,负载均衡可以将这些访问请求分配到多个服务器上,从而保证网站的正常运行。

因为业务需要跑多个的cpu密集型进程,为什么这些高负载进程容易被迁移到不同cpu上运行而不是固定在自己的cpu运行?而且跑的并发进程越多,这种迁移越明显?这是因为当一个进程在一个CPU上运行时,它会占用该CPU上所有可用的时间片。如果该CPU上有其他进程也在运行,则它们将无法获得足够的时间片来执行其任务。因此,当一个进程开始变得过于缓慢时,操作系统就会将其移动到另一个CPU上以释放该CPU上的时间片。这样可以确保所有进程都能够获得足够的时间片来执行其任务。

为了确保CPU资源公平分配给各个用户,内核采用了基于Task Group的负载均衡策略。然而,这种绝对公平的设计可能导致低负载进程被迁移到高负载进程所在的CPU上,从而影响高负载组的性能表现。


5efba9bed9c2123668206c1c8c632c4d.jpeg

cf4c29f85dacd7ed241326b25fa26ab5.jpeg

7b6df21bc42e3456b69a87dff98a1eed.jpeg

6b08c0038fc6582c20a53332d4f9fac2.jpeg

f08b4a41fda2ccb44daa5c5f7bffb361.jpeg

e7d96af23df3aae4fae1f2feb531848d.jpeg

6747dbafe565f06efbfcf60e1aa5a3fc.jpeg

46af17ad87f556f9f83bebf1396c0bc0.jpeg

ea83674f662de288a744a54cd4c5327e.jpeg

2e5fc5db563668859b26defe7fab6508.jpeg

6302d0f83fa57acbacec355948d68b90.jpeg

632790b1afe19ad8b369d66bc61bcdb9.jpeg

faf59d1c237777a563ce12cf16390c87.jpeg

5a173269079b2382587b9dfcacef0852.jpeg

184efb172c29c07b56ce37416b111d87.jpeg

c308d17afdb62c2c5a1488442a2ad003.jpeg

e3d452eb21334db3f131aa5a222f28b0.jpeg

fe953843f568671c45ce613691d4afeb.jpeg

d0de180ba6166b97594bee6baaf059c6.jpeg

4bda7243f590ac9d8deab292502be1df.jpeg

f2be7f33ee2940688f7b97307f4cedc6.jpeg

7c8fad2f607426397a565d64b129ecd6.jpeg


-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-


http://www.ppmy.cn/embedded/102553.html

相关文章

【AI大事记】——你值得拥有的AI小辞典(第六期)

上期获奖人员: 社区昵称 奖品 冬冬 蚂蚁周边大容量托特包(一等奖) Ghana 蚂蚁周边真丝眼罩(二等奖) 学编程的小程 3000社区积分 大猫 3000社区积分 user_1723692187462 1500社区积分 嘿嘿 1500社区积分 …

flutter之image_picker上传图片

原文地址 image_picker 安装 image_picker: ^1.1.2使用 我们获取到上传的照片后,将其转为base64编码的格式,方便后续使用 // source: 接收两种模式,相册和拍照final pickedImage =await

VMware上Linux系统报错--mount: 在 /dev/sr0 上找不到媒体【解决办法】

问题背景 在VMware上使用CentOS7系统,想要在CentOS7系统上挂载一个镜像文件,在系统下使用mount命令挂载报错如下所示: 解决办法 用lsblk命令查看sr0设备是存在的 查看虚拟机侧问题,右键虚拟机,点击设置 镜像文件已选…

深入理解DPO(Direct Preference Optimization)算法

目录 1. 什么是DPO?2. Bradley-Terry模型2.1 奖励模型的训练 3. 从PPO到DPO4. DPO的简单实现5. 梯度分析Ref 1. 什么是DPO? 直接偏好优化(Direct Preference Optimization, DPO)是一种不需要强化学习的对齐算法。由于去除了复杂的…

BAT32G137国产项目通用第四节:FreeRTOS MCU负载率

主题:由于项目中,常常需要知道MCU的负载率到达多少,过高的负载率会影响单片机的处理效率,同时也有可能导致直接崩溃,因此调试程序时候我们需要关注负载率。 FreeRTOS 是多任务操作系统,对 CPU 都是分时使用的:比如 A 任务占用 10ms ,然 后 B 任务占用 30ms ,…

深信服上半年亏损5.92亿,营收同比降低2.3亿

吉祥知识星球http://mp.weixin.qq.com/s?__bizMzkwNjY1Mzc0Nw&mid2247485367&idx1&sn837891059c360ad60db7e9ac980a3321&chksmc0e47eebf793f7fdb8fcd7eed8ce29160cf79ba303b59858ba3a6660c6dac536774afb2a6330#rd 《网安面试指南》http://mp.weixin.qq.com/s?…

ArcGIS Pro中的【成对叠加】工具到底好在哪里?

欢迎关注同名微信公众号,更多文章推送: 跟ArcGIS相比,在ArcGIS Pro的地理处理工具箱中增加了一组成对叠加工具集。 根据官方帮助文档的说明,成对叠加工具集是传统叠加工具的替代工具。 成对叠加工具集默认使用多进程并行处理。 …

前端手写源码系列(三)——手写_deepClone深浅拷贝

目录 一、基本类型和引用类型二、深浅拷贝概念三、浅拷贝实现方式1、Object.assign()2、Array.prototype.concat() 修改新对象会改到原对象3、Array.prototype.slice() 四、深拷贝实现方式1、JSON.parse(JSON.stringify())2、手写递归方法3、函数库lodash 五、手写深拷贝 一、基…