高并发处理 --- Caffeine内存缓存库

server/2024/12/26 0:44:58/

目录

Caffeine%EF%BC%9F-toc" style="margin-left:0px;">一.什么是Caffeine

使用场景:

Caffeine%EF%BC%9F-toc" style="margin-left:0px;"> 二.如何使用Caffeine

1.导入依赖:

2.在java项目中使用:

 三.对缓存项的驱逐:

1.容量驱逐(Maximum Size):

2.过期驱逐(Expire After Write / Access):

3.驱逐指定缓存项(主动驱逐):

(1)使用 invalidate 方法驱逐指定缓存项:

(2)使用 invalidateAll 方法驱逐所有缓存项:

(3)使用 invalidate 方法并批量驱逐多个缓存项:

(4)使用 invalidate 方法与条件驱逐:

4.驱逐回调(Eviction Listener):

(1)注册驱逐监听器:

(2)缓存项因过期被驱逐时执行回调:

Caffeine%20%E4%BD%9C%E4%B8%BA%E7%BC%93%E5%AD%98%EF%BC%9A-toc" style="margin-left:0px;">四.在 Spring Boot 项目中使用 Caffeine 作为缓存

Caffeine%20%E4%BE%9D%E8%B5%96%EF%BC%9A-toc" style="margin-left:40px;">1.添加 Caffeine 依赖:

2.创建配置类:

3.在 Controller 层注入 Cache 实例:

Caffeine%E4%B8%8ERedis%E7%9A%84%E5%8C%BA%E5%88%AB%EF%BC%9A-toc" style="margin-left:0px;">五.Caffeine与Redis的区别:

Caffeine%EF%BC%8C%E4%BD%95%E6%97%B6%E4%BD%BF%E7%94%A8%20Redis%EF%BC%9F-toc" style="margin-left:40px;">何时使用 Caffeine,何时使用 Redis?


Caffeine%EF%BC%9F">一.什么是Caffeine

Caffeine 是一个高性能的 Java 缓存库,它被设计用于提供快速、可靠的缓存服务。它基于 Google Guava缓存系统,但进行了许多优化,旨在提升性能、减少内存消耗,并为缓存提供更多的灵活性。Caffeine 的设计目标是创建一个高效、低延迟的内存缓存系统,能够在高并发的场景下提供卓越的表现。

Caffeine 通过优化缓存的存储和访问机制,在 CPU 缓存和垃圾回收方面做了大量改进,从而能够在高并发下实现高效的缓存管理。

Caffeine 是一个 本地缓存,它的缓存存储在应用服务器的内存中。每个实例都有自己的缓存空间,因此缓存本地的,仅对当前的应用实例可见。如果我们有多个应用实例或多个服务,Caffeine 缓存不会自动共享,它的作用范围限制在当前的应用进程中。这种缓存通常用于加速对本地应用数据的访问,减少对数据库的频繁查询。

使用场景:

Caffeine 是一个通用的内存缓存库,适用于多种场景,包括但不限于:

  • Web 应用缓存缓存数据库查询结果、HTTP 请求的响应数据等。
  • 分布式系统中的本地缓存:例如,在分布式系统中,每个服务的本地缓存
  • 计算密集型操作的缓存:例如缓存计算结果,避免重复计算。
  • API 请求缓存缓存通过远程服务调用得到的数据,避免重复请求相同的数据。

Caffeine%EF%BC%9F"> 二.如何使用Caffeine

1.导入依赖:

<dependency><groupId>com.github.ben-manes.caffeine</groupId><artifactId>caffeine</artifactId><version>3.1.0</version>
</dependency>

2.在java项目中使用:

Caffeine 提供了丰富的 API 来创建和管理缓存,下面是一个简单的示例。

import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;import java.util.concurrent.TimeUnit;public class CaffeineExample {public static void main(String[] args) {// 创建一个缓存实例Cache<String, String> cache = Caffeine.newBuilder().expireAfterWrite(10, TimeUnit.MINUTES) // 设置写入后10分钟过期.maximumSize(100) // 设置最大缓存条目数.build();// 存入缓存cache.put("key1", "value1");cache.put("key2", "value2");// 获取缓存String value = cache.getIfPresent("key1");  // 返回value1System.out.println("Cached value for key1: " + value);// 如果缓存中没有数据,使用一个加载函数填充缓存String loadedValue = cache.get("key3", key -> "loadedValue");System.out.println("Loaded value for key3: " + loadedValue);}
}
  • Caffeine.newBuilder():用于构建 Caffeine 缓存的构建器。
  • expireAfterWrite(10, TimeUnit.MINUTES):指定缓存项在写入后的 10 分钟过期。
  • maximumSize(100):指定最大缓存容量为 100 个条目,超过这个限制的缓存项会被逐出。
  • getIfPresent(key):如果缓存存在,则返回对应的缓存值。
  • get(key, function):如果缓存不存在,会通过提供的加载函数自动加载并缓存

 三.对缓存项的驱逐:

Caffeine 缓存中,驱逐(Eviction)指的是当缓存达到一定容量限制或过期时,自动移除缓存项的过程。Caffeine 提供了多种方式来控制缓存项的驱逐,包括基于缓存容量限制、缓存过期时间以及自定义驱逐策略

Caffeine 提供了以下几种常见的驱逐策略:

  • 容量限制驱逐:当缓存的大小超过指定的最大容量时,Caffeine 会移除最不常用的缓存项。
  • 过期时间驱逐:当缓存项过期后,Caffeine 会自动移除该项。
  • 主动驱逐:可以根据需求主动驱逐特定缓存项。

1.容量驱逐(Maximum Size):

通过设置最大缓存容量,Caffeine 会根据缓存的容量进行驱逐,移除不常用的缓存项(通常是 LRU 策略,即最少使用的项会先被移除)。

Cache<String, String> cache = Caffeine.newBuilder().maximumSize(100)  // 设置最大缓存容量为100.build();

缓存的条目数超过最大容量时,Caffeine 会自动驱逐最少使用的条目。

2.过期驱逐(Expire After Write / Access):

Caffeine 提供了基于时间的缓存驱逐策略,可以指定缓存项的失效时间:

  • expireAfterWrite缓存项在写入后的指定时间后失效。
  • expireAfterAccess缓存项在访问后的指定时间后失效。
Cache<String, String> cache = Caffeine.newBuilder().expireAfterWrite(10, TimeUnit.MINUTES)  // 写入后10分钟失效.expireAfterAccess(5, TimeUnit.MINUTES)  // 访问后5分钟失效.maximumSize(100).build();

 当缓存超过指定的过期时间后,Caffeine 会自动移除这些缓存项。

3.驱逐指定缓存项(主动驱逐):

Caffeine 允许在运行时主动驱逐缓存中的某个指定项。这对于一些特殊情况非常有用,比如在缓存项的数据发生变化时,主动移除某个缓存项。

(1)使用 invalidate 方法驱逐指定缓存项:

我们可以使用 invalidate 方法来驱逐指定的缓存项。如果需要移除一个特定的缓存项,可以直接传入键名。

cache.invalidate("key1");  // 移除指定的缓存

(2)使用 invalidateAll 方法驱逐所有缓存项:

如果需要清空缓存中的所有项,可以使用 invalidateAll 方法。

cache.invalidateAll();  // 移除所有缓存

(3)使用 invalidate 方法并批量驱逐多个缓存项:

cache.invalidate("key1", "key2", "key3");  // 移除多个指定的缓存

(4)使用 invalidate 方法与条件驱逐:

我们还可以根据特定条件来选择性地驱逐缓存项。例如,您可以实现一个条件判断逻辑来决定是否驱逐某个缓存项。

cache.invalidateIf((key, value) -> key.startsWith("prefix"));  // 根据条件驱逐缓存

4.驱逐回调(Eviction Listener):

Caffeine 提供了一个强大的驱逐监听器功能,允许在缓存项被驱逐时执行回调。这个功能对于缓存管理非常有用,特别是需要记录缓存被移除的原因,或者需要清理与缓存相关的资源。

(1)注册驱逐监听器:

我们可以使用 removalListener 方法来注册一个驱逐监听器。当缓存项被移除时,监听器会被触发。

Cache<String, String> cache = Caffeine.newBuilder().maximumSize(100).removalListener((key, value, cause) -> {System.out.println("Removed key: " + key + ", cause: " + cause);}).build();

回调参数说明

  • key:被驱逐的缓存项的键。
  • value:被驱逐的缓存项的值。
  • cause:驱逐的原因(如容量满、过期、手动移除等)。

驱逐的原因(cause)可以是以下几种:

  • EXPIRED缓存项过期。
  • SIZE:因为达到容量限制而被移除。
  • MANUAL:手动驱逐。
  • REPLACED:被替代的缓存项。
  • COLLECTED:由于垃圾回收导致的移除。

(2)缓存项因过期被驱逐时执行回调:

Cache<String, String> cache = Caffeine.newBuilder().expireAfterWrite(5, TimeUnit.MINUTES).removalListener((key, value, cause) -> {if (cause == RemovalCause.EXPIRED) {System.out.println("Cache item expired: " + key);}}).build();

Caffeine 缓存提供了灵活且强大的驱逐机制,允许开发者根据不同的需求进行缓存项的移除和清理。常见的驱逐方式包括基于容量的驱逐、过期时间的驱逐、主动驱逐以及驱逐监听器。

  • 最大容量maximumSize 设定缓存的最大容量,超过容量时会自动驱逐最不常用的缓存项。
  • 过期策略expireAfterWriteexpireAfterAccess 提供了基于时间的缓存项失效机制。
  • 主动驱逐:可以使用 invalidate 方法手动移除缓存项。
  • 驱逐监听器:通过 removalListener 监听缓存项的驱逐事件,以便做进一步的处理。

Caffeine%20%E4%BD%9C%E4%B8%BA%E7%BC%93%E5%AD%98%EF%BC%9A">四.在 Spring Boot 项目中使用 Caffeine 作为缓存

假设我们正在开发一个 Spring Boot 项目,其中包含一个频繁查询数据库的 UserService,为了提升性能,我们决定在缓存中存储用户信息。对于某些高频率访问的数据(如用户基本信息),使用内存缓存可以显著提高响应速度。为了避免频繁地访问数据库,我们使用 Caffeine缓存用户数据。 

Caffeine%20%E4%BE%9D%E8%B5%96%EF%BC%9A">1.添加 Caffeine 依赖:

pom.xml 中添加 Caffeine 依赖:

<dependency><groupId>com.github.ben-manes.caffeine</groupId><artifactId>caffeine</artifactId><version>3.1.0</version>
</dependency>

2.创建配置类:

package cn.mybatisplus.redis_mq.config;import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;import java.util.concurrent.TimeUnit;@Configuration
public class CaffeineConfig {@Beanpublic Cache<Long,Object> ObjectCache(){return Caffeine.newBuilder().expireAfterAccess(5, TimeUnit.MINUTES)  // 5 分钟后过期.refreshAfterWrite(10, TimeUnit.MINUTES) // 每10分钟自动刷新缓存.maximumSize(100).build();}
}

3.在 Controller 层注入 Cache 实例:

Controller 中,使用 @Autowired 注解将 Cache<Long, Object> 缓存实例注入进来,直接使用缓存进行操作。

import com.github.benmanes.caffeine.cache.Cache;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;@RestController
@RequestMapping("/products")
public class ProductsController {@Autowiredprivate Cache<Long, Object> objectCache;// 模拟一个从缓存中获取数据的接口@GetMapping("/getUserInfo")public String getUserInfo(@RequestParam Long userId) {// 检查缓存中是否存在该用户数据Object cachedData = objectCache.getIfPresent(userId);if (cachedData != null) {return "Cache hit: " + cachedData;} else {// 模拟从数据库获取用户数据String userInfo = "User Info for " + userId;// 将查询到的数据放入缓存中objectCache.put(userId, userInfo);// 当缓存中没有对应 key 的数据时,它会被调用来加载数据并将结果存入缓存。objectCache.get(userId,key -> orderService.createOrder(key));return "Cache miss: " + userInfo;}}
}

如果希望在缓存失效或需要手动控制缓存刷新时使用更多功能,Caffeine 提供了丰富的 API,可以在代码中进行进一步的定制。例如:

objectCache.invalidate(userId);  // 删除缓存
objectCache.refresh(userId);     // 刷新缓存

Caffeine%E4%B8%8ERedis%E7%9A%84%E5%8C%BA%E5%88%AB%EF%BC%9A">五.Caffeine与Redis的区别:

Caffeine 和 Redis 都是常见的缓存解决方案,但它们各自有不同的优势和适用场景:

特性CaffeineRedis
存储类型内存缓存分布式缓存(存储在外部内存中,如内存、磁盘等)
性能本地内存缓存,速度非常快,低延迟由于需要网络请求,相较于 Caffeine 较慢
适用范围单机应用,内存容量较小的缓存,低延迟缓存访问分布式系统,跨机器的缓存,支持持久化存储
缓存容量受限于 JVM 内存(可配置最大容量)可配置持久化存储,容量几乎无限
缓存失效策略支持过期时间、LRU/LFU 淘汰策略支持过期时间、LRU、LRU + 分布式缓存持久化策略
持久化支持不支持持久化,只在 JVM 中缓存支持持久化(内存、磁盘、备份等)
分布式支持仅适用于单机应用支持分布式缓存,多个节点可以共享缓存
内存使用内存缓存,适合小规模、高性能访问内存/磁盘结合,适合大规模、高可用的分布式缓存

Caffeine%EF%BC%8C%E4%BD%95%E6%97%B6%E4%BD%BF%E7%94%A8%20Redis%EF%BC%9F">何时使用 Caffeine,何时使用 Redis?

①使用 Caffeine:如果你的应用只需要单机缓存,数据量相对较小,且要求极低的延迟(例如,数据库查询、网页请求缓存),Caffeine 是一个很好的选择。

场景

  • 单机应用,数据存储量较小(例如,用户的最近访问信息、缓存一些经常访问的配置数据等)。
  • 缓存响应时间要求非常严格,需要高性能低延迟的缓存
  • 不需要跨服务器共享缓存,且缓存数据可以在应用关闭后丢失。

②使用 Redis:如果你需要跨多个应用共享缓存,或者需要缓存的数据需要持久化,或者系统是分布式的,Redis 是更适合的选择。

场景

  • 分布式系统或微服务架构中需要共享缓存(例如,用户会话、订单状态等)。
  • 数据缓存需要持久化,即便系统重启,缓存数据也要保留。
  • 需要高可用和高扩展性的缓存解决方案,Redis 支持集群、复制、持久化等特性。

在实际项目中,我们可以根据业务需求选择合适的缓存解决方案,甚至结合 Caffeine 和 Redis 使用,例如使用 Caffeine 缓存本地数据,使用 Redis 缓存跨应用的数据。


http://www.ppmy.cn/server/153182.html

相关文章

【开源库 | xlsxio】C/C++读写.xlsx文件,xlsxio 在 Linux(Ubuntu18.04)的编译、交叉编译

&#x1f601;博客主页&#x1f601;&#xff1a;&#x1f680;https://blog.csdn.net/wkd_007&#x1f680; &#x1f911;博客内容&#x1f911;&#xff1a;&#x1f36d;嵌入式开发、Linux、C语言、C、数据结构、音视频&#x1f36d; ⏰发布时间⏰&#xff1a; 2024-12-20 …

CASA模型相关遥感数据及MODIS NDVI、FPAR遥感产品数据时序重建

植被作为陆地生态系统的重要组成部分对于生态环境功能的维持具有关键作用。植被净初级生产力&#xff08;Net Primary Productivity, NPP&#xff09;是指单位面积上绿色植被在单位时间内由光合作用生产的有机质总量扣除自养呼吸的剩余部分。植被NPP是表征陆地生态系统功能及可…

Bazel CI

本文来自智谱清言 ------ “Bazel CI” 通常指的是使用 Bazel 构建工具的持续集成&#xff08;CI&#xff09;系统。Bazel 是一个由 Google 开发的开源构建和测试工具&#xff0c;它支持多种编程语言&#xff0c;并被设计用于构建大型代码库。在持续集成环境中&#xff0c;B…

Java的垃圾回收机制介绍、工作原理、算法及分析调优

Java的垃圾回收&#xff08;Garbage Collection&#xff0c;GC&#xff09;是Java虚拟机&#xff08;JVM&#xff09;提供的一种自动内存管理机制&#xff0c;用于自动回收不再使用的内存空间&#xff0c;以避免内存泄露和内存溢出等问题。下面主要介绍Java垃圾回收的基本概念、…

[flutter] 容器组件

Center Center容器用来居中widget const Center({Key key, double widthFactor, // 若该值为空&#xff0c;该组件宽度会尽可能大&#xff1b;若不为空&#xff0c;该组件的宽度就是子节点宽度的多少倍double heightFactor, // 同widthFactorWidget child // 子组件 }) : supe…

苍穹外卖-day05redis 缓存的学习

苍穹外卖-day05 课程内容 Redis入门Redis数据类型Redis常用命令在Java中操作Redis店铺营业状态设置 学习目标 了解Redis的作用和安装过程 掌握Redis常用的数据类型 掌握Redis常用命令的使用 能够使用Spring Data Redis相关API操作Redis 能够开发店铺营业状态功能代码 功能实…

mysql(基础语法)

准备一张员工表 /*Navicat Premium Data TransferSource Server : localhost_3306Source Server Type : MySQLSource Server Version : 80037 (8.0.37)Source Host : localhost:3306Source Schema : studymysqlTarget Server Type : MySQLTar…

零基础入门Spring源码

文章目录 前言Spring相关代码pom.xml配置文件beans.xml实体类测试类 一、创建BeanFactoryApplicationContextBeanFactory和ApplicationContext的区别补充如何从容器中获取对象&#xff1f; 二、读取xml等&#xff0c;将bean定义信息放入BeanDefinition三、对BeanDefinition中的…