Redis 可观测最佳实践

ops/2024/11/27 12:56:14/

Redis 介绍

Redis 是一个开源的高性能键值对(key-value)数据库。它通常用作数据库缓存和消息代理。Redis 支持多种类型的数据结构,Redis 通常用于需要快速访问的场景,如会话缓存、全页缓存、排行榜、实时分析等。由于其高性能和灵活性,Redis 在现代应用程序中非常流行。

随着项目对 Redis 依赖度逐渐提升,对于 Redis 的稳定性保障变得尤为重要,需要及时发现 Redis 性能是否够用,如连接数、QPS、缓存命中率、阻塞连接数、bigkey 、slowkey 等。及时发现问题对于系统的稳定性和性能优化会有极大的提升。

观测云

观测云具备完整的可观测能力,本文详细解读如何通过观测云采集器 DataKit,采集 Redis 各项指标,并配置监控器向用户主动报告 Redis 问题。

Redis 监控用户创建

创建监控用户(可选):redis 6.0+ 进入 redis-cli 命令行,创建用户并且授权:

CONFIG SET maxmemory-policy allkeys-lfu
ACL SETUSER username on +get +@read +@connection +@keyspace ~*
  • 采集 hotkey 数据,maxmemory-policy 策略需要设置为 volatile-lfu 或者 allkeys-lfu
  • 采集 bigkey&hotkey 主机安装模式需要安装 redis-cli , 如果部署了 redis-server ,则不需要重复安装 redis-cli 服务。

部署 DataKit

数据通过 DataKit 采集,DataKit 是一款开源、一体式的数据集成 Agent,用于采集系统运行的各种指标、日志等数据,并将这些数据汇总给观测云。DataKit 安装方式可以参考官方手册。

主机安装方式参考:主机安装 - 观测云文档

Redis 采集器

适用于虚拟机部署的 Redis 监控,使用主机安装方式安装 DataKit 后,在 /usr/local/datakit/conf.d/db 目录下,复制 redis.conf.sample 为 redis.conf 。

cp redis.conf.sample redis.conf

调整 redis.conf 内容如下:

# {"version": "1.60.0", "desc": "do NOT edit this line"}[[inputs.redis]]host = "172.31.16.153"port = 6379password = "rediszjsj"redis_cli_path = "/usr/bin/redis-cli"hotkey = truebigkey = true[inputs.redis.log]# #required, glob logfilesfiles = ["/var/log/redis/*.log"]## grok pipeline script pathpipeline = "redis.p"match = '''^\S.*'''[inputs.redis.tags]# some_tag = "some_value"# more_tag = "some_other_value"...

本配置打开了 hotkey 和 big key 采集,同时开启了 Redis 运行日志采集。

配置完成后,重启 DataKit,执行命令:

 datakit service -R 

关键核心指标

  • blocked_clients:等待阻塞调用(如 BLPOP/BRPOP 等)的客户端数量。
  • connected_clients:客户端连接数(不包括从副本的连接)。
  • connected_slaves:已连接的副本(replica)数量。
  • evicted_clients:由于 maxmemory-clients 限制而被驱逐的客户端数量。
  • evicted_keys:由于 Max-Memory 限制而被驱逐的键数量。
  • expired_keys:键过期事件的总数。
  • io_threaded_reads_processed:主线程和 I/O 线程处理的读事件数量。
  • io_threaded_writes_processed:主线程和 I/O 线程处理的写事件数量。
  • keyspace_hits:在主字典中成功查找键的次数。
  • keyspace_misses:在主字典中查找键失败的次数。
  • latency_percentiles_usec:基于命令类型的延迟百分位分布统计。
  • maxclients:maxclients 配置指令的值,是 connected_clients、connected_slaves 和 cluster_connections 之和的上限。
  • maxmemory:Max Memory 配置指令的值。
  • mem_fragmentation_bytes:used_memory_rss 和 used_memory 之间的差异。
  • mem_fragmentation_ratio:used_memory_rss 和 used_memory 之间的比率。
  • rdb_bgsave_in_progress:正在进行 RDB 保存的标志。
  • rdb_changes_since_last_save:自上次 SAVE 或 BGSAVE 调用以来数据集变化的操作数。
  • rdb_current_bgsave_time_sec:正在进行的 RDB 保存操作的持续时间。
  • rdb_last_bgsave_time_sec:上次 RDB 保存操作的持续时间。
  • rdb_last_save_time:上次成功的 RDB 保存的基于时间戳的记录。
  • rdb_saves:自启动以来执行的 RDB 快照数量。
  • rejected_connections:由于 Max-Clients 限制而被拒绝的连接数。
  • total_blocking_keys:阻塞键的数量。
  • total_net_input_bytes:从网络读取的总字节数。
  • total_net_output_bytes:写入网络的总字节数。
  • total_net_repl_input_bytes:为复制目的从网络读取的总字节数。
  • total_net_repl_output_bytes:为复制目的写入网络的总字节数。
  • uptime_in_seconds:Redis 服务器启动以来的秒数。
  • used_cpu_sys:Redis 服务器消耗的系统 CPU 时间。
  • used_cpu_user:Redis 服务器消耗的用户 CPU 时间。
  • used_memory:Redis 使用其分配器分配的总字节数。
  • used_memory_rss:操作系统看到的 Redis 分配的字节数(常驻集大小)。

仪表板

登录观测云控制台,点击「场景」 -「新建仪表板」,输入 " Redis", 选择" Redis监控视图 ",点击"确定"。

  • 性能

  • 内存

  • 持久化

日志

redis_bigkey
  • 标签
TagDescription
db_nameDB name.
hostHostname.
keyKey name.
key_typeKey type.
serverServer addr.
service_nameService name.
  • 字段列表
MetricDescriptionTypeUnit
keys_sampledSampled keys in the key space.int-
value_lengthKey length.int-
redis_hotkey
  • 标签
TagDescription
db_nameDB name.
hostHostname.
keyKey name.
serverServer addr.
service_nameService name.
  • 字段列表
MetricDescriptionTypeUnit
key_countKey count times.int-
keys_sampledSampled keys in the key space.int-
redis_slowlog

Redis 慢查询命令历史,这里我们将其以日志的形式采集。

  • 标签
TagDescription
hosthost
messagelog message
serverserver
service_nameService name
  • 字段列表
MetricDescriptionTypeUnit
commandSlow commandintμs
slowlog_95percentileSlow 95th percentile durationintμs
slowlog_avgSlow average durationfloatμs
slowlog_idSlow log unique idint-
slowlog_maxSlow maximum durationintμs
slowlog_medianSlow median durationintμs
slowlog_microsCost timeintμs

备注: Redis 实例中暂无 slow log 数据。

监控器

一键开启如下监控:

Redis 节点重启

检测 Redis 启动时间小于 10 分钟,判定为 Redis 节点发生了重启。

Redis 节点失联

总结

Redis 的监控是实现可观测性建设必不可少的一环,Redis 的可用性对于业务系统起着至关重要的作用。使用观测云可以支持采集 Redis 多种部署方式,包括单机、主从、集群、哨兵等。配合观测云丰富的告警能力,及时发现 Redis 问题,处理解决对应的问题。


http://www.ppmy.cn/ops/137088.html

相关文章

自由学习记录(25)

只要有修改,子表就不用元表的参数了,用自己的参数(只不过和元表里的那个同名) 子表用__index“继承”了父表的值,此时子表仍然是空表 一定是创建这样一个同名的变量在原本空空的子表里, 传参要传具体的变…

STM32C011开发(2)----nBOOT_SEL设置

STM32C011开发----2.nBOOT_SEL设置 概述硬件准备视频教学样品申请源码下载参考程序自举模式BOOT0设置配置 nBOOT_SEL生成STM32CUBEMX串口配置LED配置堆栈设置串口重定向主循环演示 概述 STM32CubeProgrammer (STM32CubeProg) 是一款用于编程STM32产品的全功能多操作系统软件工…

mac maven编译出现问题

背景 进行maven install 命令,报错: [ERROR] COMPILATION ERROR : [INFO] ------------------------------------------------------------- [ERROR] No compiler is provided in this environment. Perhaps you are running on a JRE rather than a J…

【leetcode】动态规划

31. 873. 最长的斐波那契子序列的长度 题目&#xff1a; 如果序列 X_1, X_2, ..., X_n 满足下列条件&#xff0c;就说它是 斐波那契式 的&#xff1a; n > 3对于所有 i 2 < n&#xff0c;都有 X_i X_{i1} X_{i2} 给定一个严格递增的正整数数组形成序列 arr &#xff0…

Linux下通过DRM操作屏幕,发生行对齐 (stride)问题

前言 Linux下使用LVGL操作屏幕&#xff0c;屏幕尺寸是[280*1424]&#xff0c;不管如何设置LVGL的参数&#xff0c;屏幕的显示均为花屏&#xff0c;能看到有图像显示&#xff0c;但是图像是行错乱的。 ubuntu桌面系统显示正常 打印DRM看输出 drm: 280x1424 (0mm X 0mm) pixel …

OpenTK 实现三维空间模型仿真详解

文章目录 一、创建渲染窗口与初始化 OpenGL二、三维模型加载三、渲染管线搭建四、模型渲染与变换五、交互与事件处理一、创建渲染窗口与初始化 OpenGL 继承 GameWindow:   构建自定义类使其继承自 GameWindow,该类内部封装了诸多窗口管理以及渲染循环逻辑,为后续渲染工作…

Android触摸事件setOnTouchListener用法

1&#xff0c;首先需知道MotionEvent类一些参数特性 ACTION_DOWN: 表示用户开始触摸(在第一个点被按下时触发) ACTION_MOVE: 当有点在屏幕上移动时触发&#xff0c;注意的是&#xff0c;由于灵敏度很高&#xff0c;所以基本上只要有点在屏幕上&#xff0c;此事件就会不停地被触…

Ubuntu问题 -- Linux立即关机, 立即重启命令

立即关机 sudo shutdown -h now立即重启 sudo reboot