Redis设计与实现第10章 -- RDB持久化 总结 (创建、载入、自动保存、文件结构)

embedded/2024/11/22 13:43:46/

Redis是内存数据库数据库状态存储在内存里,如果服务器进程退出,服务器的数据库状态没有保存到磁盘里,就会丢失。为了解决这个问题,Redis提供了RDB持久化功能,可以把Redis在内存里的数据库状态保存在磁盘里。

RDB持久化可以把某个时间点上的数据库状态保存到RDB文件里,既可以手动执行,也可以根据服务器配置选项定期执行。生成的的RDB文件是一个经过压缩的二进制文件,可以通过该文件还原生成RDB文件时的数据库状态。

10.1 RDB文件的创建与载入

创建RDB文件,用SAVE或BGSAVE

SAVE命令会阻塞Redis服务器进程,直到RDB文件创建完毕为止,在服务器进程阻塞期间,服务器不能处理任何命令请求。

BGSAVE命令会派生出一个子进程,由该子进程负责创建RDB文件,服务器进程(父进程)继续处理命令请求

创建RDB文件由rdb.c/rdbSave函数完成

子进程的fork返回的值是0,父进程返回的是子进程的进程ID

def SAVE():#创建RDB文件rdbsave()
def BGSAVE():#创建子进程pid = fork()if pid == 0:#子进程负贵创建RDB文件rdbSave()#完成之后向父进程发送信号signal_parent()elif pid >0:#父进程继续处理命令请求,并通过轮询等待子进程的信号handle_request_and_wait_signal()else:#处理出错情况handle_fork_error()

RDB文件的载入工作是在服务器启动时自动执行的,只要Redis服务器在启动时检测到RDB文件存在,就会自动载入RDB文件。所以Redis并没有专门用于载入RDB文件的命令。

启动的时候日志里打印loaded from disk:.... 表示服务器载入了RDB文件

因为AOF文件的更新频率通常比RDB文件的更新频率高,所以:

  • 如果服务器开启了AOF持久化功能,会优先用AOF文件来还原数据库状态
  • 未开启的时候,才会用RDB文件来还原数据库状态

10.1.1 SAVE命令执行时的服务器状态

客户端发送的所有命令请求都会被拒绝,在服务器执行完SAVE命令、重新开始接受命令请求后,客户端发送的命令才会被处理

10.1.2 BGSAVE命令执行时的服务器状态

服务器仍然可以处理客户端的命令请求,但是在BGSAVE命令执行期间,服务器处理SAVE,BGSAVE,BGREWRITEAOF 三个命令的方式会有所改变
  • SAVE命令会被服务器拒绝,服务器禁止SAVE命令和BGSAVE命令同时执行,这是为了避免父进程和子进程同时执行两个rdbSave调用产生竞争条件
  • BASAVE命令会被服务器拒绝,理由同上
  • BGREWRITEAOF 和BGSAVE不能同时执行。如果BGSAVE命令正在执行,客户端发送的BGREWRITEAOF命令会被延迟到BGSAVE命令执行完后执行;如果BGREWRITEAOF 正在执行,BGSAVE命令会被拒绝。

BGREWRITEAOF 命令是AOF持久化的命令,也是由子进程执行

10.1.3 RDB文件载入时的服务器状态

服务器在载入RDB文件期间,会一直处理阻塞状态,直到载入工作完成为止

10.2 自动间隔性保存

Redis允许用户通过设置服务器配置的save选项,让服务器每隔一段时间自动执行一次BGSAVE命令,用户可以通过save选项设置多个保存条件,只要有任意一个条件被满足,服务器就会执行BGSAVE命令

save 900 1

save 300 10

save 60 10000

只要满足以下任意三个条件之一,BGSAVE命令就会被执行

  • 服务器在900秒以内,对数据库执行了至少1次修改
  • 服务器在300 秒以内,对数据库执行了至少10 次修改
  • 服务器在60 秒以内,对数据库执行了至少10000 次修改

10.2.1 设置保存条件

当Redis服务器启动的时候,用户可以通过指定配置文件或传入启动参数的方式设置save选项,如果用户没有主动设置save选项,服务器就会为save选项设置默认条件。

设置服务器状态redisServer结构的saveparams属性

saveparams属性是一个数组,每个元素都是一个saveparam结构,saveparam结构都保存了一个save选项设置的保存条件

struct saveparam {time_t seconds;//秒数int changes;//修改数
};

10.2.2 dirty计数器和lastsave属性

服务器状态还有一个dirty计数器和lastsave属性。
  • dirty计数器记录距离上一次成功执行SAVE命令或BGSAVE命令之后,服务器对数据库状态(服务器中的所有数据库)进行了多少次修改(包括写入、删除、更新等操作)
  • lastsave属性是一个UNIX时间戳,记录了服务器上一次成功执行SAVE/BGSAVE命令的时间
struct redisServer {struct saveparam *saveparams;//记录了保存条件的数组 long long dirty;//修改计数器time_t lastsave;//上一次执行保存的时间 
}

服务器成功执行一个数据库修改命令之后,程序就会对dirty计数器进行更新,修改多少次数据库,值旧增加多少

10.2.3 检查保存条件是否满足

Redis的服务器周期性操作函数serverCron默认每隔100毫秒就会执行一次,其中一项工作就是检查save选项所设置的保存条件是否已满足,满足的话执行BGSAVE命令
def serverCron():#遍历所有保存条件for saveparam in server.saveparams:#计算距离上次执行保存操作有多少秒save_interval = unixtime_now() - server.lastsave#如果数据库状态的修改次数超过条件所设置的次数#并且距离上次保存的时间超过条件所设置的时间#那么执行保存操作if server.dirty >= saveparam.changes and save_interval > saveparam.seconds:BGSAVE()

程序会遍历并检查saveparams数组中的所有保存条件,只要有任意一个条件被满足,那么服务器会执行BGSAVE命令 。

10.3 RDB文件结构

RDB文件结构

全大写单词表示常量,全小写单词表示变量和数据

RDB文件的最开头是REDIS部分,这个部分的长度是5字节,保存这五个字符,是二进制数据保存的

db_version的长度为4字节,值是一个用字符串表示的整数,记录了RDB文件的版本号,比如”0006“就代表RDB文件的版本为第六版

database部分包含着0个或任意多个数据库,以及各个数据库中的键值对数据

  • 如果服务器的数据库状态为空,也就是所有的数据库都是空的,这个部分也为空,长度为0字节
  • 如果数据库的状态为非空,这个部分也非空。

EOF常量的长度为1字节,标志着RDB文件正文内容的结束,所有数据库的所有键值对都已经载入完毕了

check_sum是一个8字节长的无符号整数,保存着一个校验和。是对前面四部分的内容进行计算得出的,可以检查RDB文件是否有出错或损坏的情况出现

10.3.1 database部分

保存任意多个非空数据库,每个非空数据库在RDB文件中都可以保存为SELECTDB、db_number、key_value_pairs 三个部分
  • SELECTDB常量的长度为1字节,读入程序遇到这个值的时候,知道接下来要读到的是一个数据库号码
  • db_number保存着一个数据库号码,根据号码的大小不同,这个部分可以是1字节、2字节或5字节。读入以后会调用SELECT命令切换数据库
  • key_value_pairs 保存了数据库中的所有键值对数据,如果键值对有过期时间,也会保存在这里

10.3.2 key_value_pairs 部分

key_value_pairs 保存了一个或以上数量的键值对,如果有过期时间的话,过期时间也被保存在内

不带过期时间的键值对在RDB文件里由TYPE、key、value三部分组成。

TYPE记录了value的类型,长度为1字节,值可以是以下常量的其中一个

以上列出的每个TYPE常量都代表了一种对象类型或底层编码,服务器会根据TYPE的值来决定如何读入和解释value的数据。

key总是一个字符串对象,但是根据TYPE类型和保存内容长度的不同,保存value的结构和长度也有所不同

带有过期时间的键值对在RDB文件的结构为EXPIRETIME_MS、ms、TYPE、key和value构成。其中EXPIRETIME_MS常量的长度为1字节,告知读入程序接下来读入的是一个以毫秒为单位的过期时间;ms是一个8字节长的带符号整数,记录着一个以毫秒为单位的UNIX时间戳,就是键值对的过期时间

10.3.3 value的编码

RDB文件的每个value部分都保存了一个值对象,每个值对象的类型都由与之对应的TYPE记录,根据类型不同,value部分的长度、结构也不同
字符串对象
如果TYPE=REDIS_RDB_TYPE_STRING,那么value保存的就是一个字符串对象,编码可以是REDIS_ENCODING_INT或REDIS_ENCODING_RAW

当对象中保存的是 长度不超过32位的整数,字符串对象的编码为REDIS_ENCODING_INT,这种编码的对象将以下图的结构保存,其中ENCODING的值可以是REDIS_RDB_ENC_INT8、REDIS_RDB_ENC_INT16或REDIS_RDB_ENC_INT32这三个常量的其中一个,分别代表RDB文件用8位(bit)、16位或32位来保存整数值integer

如果字符串对象的编码为REDIS_ENCODING_RAW,说明对象保存的是字符串值,根据字符串长度的不同,有压缩和不压缩两种方法来保存字符串

  • 字符串长度<=20字节,原样保存
  • 字符串长度>20字节,被压缩后再保存

注意:服务器打开了RDB文件压缩功能的情况下才会有压缩;否则就全部是原样保存

没有压缩的字符串结构为len、string两部分,其中len保存了字符串值得长度,string部分保存了字符串值本身

压缩后字符串得结构为REDIS_RDB_ENC_LZF、compressed_len、origin_len、compressed_string。其中REDIS_RDB_ENC_LZF表示字符串被LZF算法压缩了,compressed_len表示被压缩之后得长度,origin_len表示字符串原来的长度,compressed_string记录被压缩之后的字符串

列表对象
TYPE的值为REDIS_RDB_TYPE_LIST,value保存的是一个REDIS_ENCODING_LINKEDLIST编码的列表对象,结构为list_length、item1、item2……itemN

其中list_length记录了列表的长度,表示该列表保存了多少个项

以item开头的部分表示列表的项,每个列表都是一个字符串对象,所以程序会按照处理字符串对象的方式来保存和读入列表项,即字符串长度和字符串值。

集合对象
TYPE的值为REDIS_RDB_TYPE_SET,那么value保存的是REDIS_ENCODING_HT编码的集合对象,结构是set_size、elem1、elem2……elemN

其中 set_size为集合的大小,记录集合保存了多少个元素

以elem开头的部分代表集合的元素,每个集合元素都是一个字符串对象

哈希表对象
TYPE的值为REDIS_RDB_TYPE_HASH,value保存的是REDIS_ENCODING_HT编码的集合对象,结构是hash_size、key_value_pair1、key_value_pair2……key_value_pairN

其中hash_size记录了哈希表的大小,也就是哈希表保存了多少个键值对

以key_value_pair开头的部分代表哈希表中的键值对,键和值都是字符串对象

有序集合对象
TYPE的值为REDIS_RDB_TYPE_ZSET,value保存的就是一个REDIS_ENCODING_SKIPLIST编码的有序集合对象,结构是sorted_set_size、element1、element2……elementN

其中sorted_set_size记录了有序集合的大小,以element开头的部分代表有序集合中的元素,每个元素分为成员member和分数score两部分,成员是一个字符串对象,分值是一个double类型的浮点数,程序在保存RDB文件时会先把分值转化为字符串对象,再用保存字符串对象的方法把分值保存起来,每个元素都以成员挨着分值的方式排列

INTSET编码的集合
TYPE的值为REDIS_RDB_TYPE_SET_INTSET,value保存的是一个整数集合对象,需要先把整数集合转化为字符串对象,再将字符串对象保存到RDB文件里。读出的时候也需要转化。
ZIPLIST编码的列表、哈希表或有序集合
TYPE的值为REDIS_RDB_TYPE_LIST_ZIPLIST、REDIS_RDB_TYPE_HASH_ZIPLIST或REDIS_RDB_TYPE_ZSET_ZIPLIST,那么value保存的就是一个压缩列表对象,RDB保存这种对象的方式是把压缩列表转化为一个字符串对象后把转换所得二等字符串对象保存到RDB文件里。

10.4 分析RDB文件

看书 自己捋一遍

http://www.ppmy.cn/embedded/139635.html

相关文章

Android 13 编译Android Studio版本的Launcher3

Android 13 Aosp源码 源码版本 Android Studio版本 Launcher3QuickStepLib (主要代码) Launcher3ResLib(主要资源) Launcher3IconLoaderLib(图片加载&#xff0c;冲突资源单独新建) 需要值得注意的是&#xff1a; SystemUISharedLib.jar 有kotlin和java下的&#xff0c;在 Lau…

百度智能云千帆大模型平台引领企业创新增长

本文整理自百度世界大会 2024——「智能跃迁 产业加速」论坛的同名演讲。 更多大会演讲内容&#xff0c;请访问&#xff1a; https://baiduworld.baidu.com 首先&#xff0c;跟大家分享一张图&#xff0c;这个是我们目前大模型应用落地的场景分布。可以看到&#xff0c;大模型…

实验室资源调度系统:基于Spring Boot的创新

2相关技术 2.1 MYSQL数据库 MySQL是一个真正的多用户、多线程SQL数据库服务器。 是基于SQL的客户/服务器模式的关系数据库管理系统&#xff0c;它的有点有有功能强大、使用简单、管理方便、安全可靠性高、运行速度快、多线程、跨平台性、完全网络化、稳定性等&#xff0c;非常…

【Vue】Vue3.0(二十六)Vue3.0中的作用域插槽

上篇文章 【Vue】Vue3.0&#xff08;二十五&#xff09;Vue3.0中的具名插槽 的概念和使用场景 &#x1f3e1;作者主页&#xff1a;点击&#xff01; &#x1f916;Vue专栏&#xff1a;点击&#xff01; ⏰️创作时间&#xff1a;2024年11月20日17点30分 文章目录 概念使用场景示…

《线性代数》学习笔记

列向量无关 上个星期继续学线性代数&#xff0c;一个矩阵&#xff0c;如何判断它是的列向量有几个是线性无关呢&#xff1f;其实有好几个方法。第一个就是一个一个判断。 先选定一个&#xff0c;然后看下这两个&#xff0c;怎么看呢&#xff1f;如果两个列向量线性相关&#…

c#————委托Action使用例子

1. using System;public class Program {// 定义一个符合Action<int>签名的方法public static void PrintNumber(int number){Console.WriteLine("The number is: " number);}public static void Main(string[] args){// 实例化一个Action<int>委托&am…

科研深度学习:如何精选GPU以优化服务器性能

GPU在科研深度学习中的核心价值 在科研深度学习的范畴内&#xff0c;模型训练是核心环节。面对大规模参数的模型训练&#xff0c;这往往是科研过程中最具挑战性的部分。传统CPU的计算模式在处理复杂模型时&#xff0c;训练时间会随着模型复杂度的增加而急剧增长&#xff0c;这…

解决docker报Error response from daemon Get httpsregistry-1.docker.iov2错误

解决docker报Error response from daemon: Get "https://registry-1.docker.io/v2/"错误 报错详情 首先先看一下问题报错效果,我想要拉去nacos-serve&#xff1a;1.1.4的镜像&#xff0c;报如下错误&#xff0c;从报错信息可以看到&#xff0c;用于网络的愿意&…