【从0到1设计一个网关】性能优化---缓存

news/2024/11/8 15:01:17/

文章目录

  • 为什么要用缓存?
  • Caffeine Cache
  • 使用Caffeine
  • 效果演示

为什么要用缓存?

首先先了解一下为什么在网关中我们需要用到缓存。
我们可以从如下几点来入手这个问题:

  • 处理大规模流量: 网关是系统的入口,需要处理大规模的请求流量。高性能的网关能够快速而有效地处理大量的请求,确保系统对外提供稳定和快速的服务。

  • 复杂的请求处理: 网关可能需要执行复杂的请求处理逻辑,包括身份验证、授权、路由、转换等。高性能的网关可以更快速地执行这些操作,确保请求能够快速而正确地被处理。

  • 保障低延迟: 对于许多应用场景,低延迟是关键。高性能的网关能够在最短的时间内完成请求处理,提供低延迟的服务,满足用户的性能期望。

  • 应对突发流量: 突发流量是网络系统经常面临的挑战之一。高性能的网关能够更好地应对突发的请求流量,确保系统在高峰时期仍能够提供稳定的服务。

思考清楚了这些特点之后,我们就明白了我们需要为网关实现一个功能,这个功能可以为网关带来如上点所提到的性能提升。
最显而易见的方法就是使用缓存,比如使用分布式缓存Redis、本地缓存Guava、Caffeine。

使用缓存,可以为我们带来如下的好处:

  • 减少后端


http://www.ppmy.cn/news/1209170.html

相关文章

通义千问, 文心一言, ChatGLM, GPT-4, Llama2, DevOps 能力评测

引言 “克隆 dev 环境到 test 环境,等所有服务运行正常之后,把访问地址告诉我”,“检查所有项目,告诉我有哪些服务不正常,给出异常原因和修复建议”,在过去的工程师生涯中,也曾幻想过能够通过这…

stm32 Bootloader设计(YModem协议)

stm32 Bootloader设计(YModem协议) Chapter1 stm32 Bootloader设计(YModem协议)YModem协议:STM32 Bootloader软件设计STM32 Bootloader使用方法准备工作stm32 Bootloader修改:stm32目标板程序.bin偏移地址修改: Chapt…

nacos做服务配置和服务器发现

一、创建项目 1、创建一个spring-boot的项目 2、创建三个模块file、system、gateway模块 3、file和system分别配置启动信息,并且创建一个简单的控制器 server.port9000 spring.application.namefile server.servlet.context-path/file4、在根目录下引入依赖 <properties&g…

已解决:KeyError: ‘The truth value of a Series is ambiguous‘ 问题

&#x1f337;&#x1f341; 博主猫头虎&#xff08;&#x1f405;&#x1f43e;&#xff09;带您 Go to New World✨&#x1f341; &#x1f984; 博客首页: &#x1f405;&#x1f43e;猫头虎的博客&#x1f390;《面试题大全专栏》 &#x1f995; 文章图文并茂&#x1f996…

C# .NET6 Log4net输出日志

在 C# .NET6 开发中&#xff0c;log4net 是一个常用的日志记录框架&#xff0c;它可以帮助我们方便地输出日志信息。本教程将向你展示如何在 C# .NET6 中实现 log4net 的日志输出功能。 整体流程 下面是实现“C# .NET6 log4net 输出日志”的整体流程&#xff0c;我们将通过以下…

两台Linux服务器之间传送文件

两台Linux服务器之间传送文件 将U盘上的数据传送到服务器上 本地U盘 远程服务器地址&#xff1a; 192.168.30.125 传送到data文件夹的下面 scp -r coco2017 s192.168.30.125:/data传送 两台Linux服务器之间传送文件的4种方法

HelloGitHub 社区动态,开启新的篇章!

今天这篇文章是 HelloGitHub 社区动态的第一篇文章&#xff0c;所以我想多说两句&#xff0c;聊聊为啥开启这个系列。 我是 2016 年创建的 HelloGitHub&#xff0c;它从最初的一份分享开源项目的月刊&#xff0c;现如今已经成长为 7w Star 的开源项目、1w 用户的开源社区、全网…

红海云签约和兆服饰,科技引领服饰行业人力资源数字化转型

和兆服饰从事多品牌多品类经营管理&#xff0c;旗下拥有POLOSPORT、POLOKIDS、CARTELO等国际品牌。作为一个主打POLO文化的服饰品牌&#xff0c;诞生于美国的POLOSPORT拥有现代感的产品设计、系列化的产品搭配、全方位的服务&#xff0c;是最具美国马球精神的休闲时尚服饰品牌之…