Xtrabackup导致主从延时问题

ops/2024/11/9 16:38:26/

背景问题

公司数据库备份采用Xtrabackup, 备份期间会导致数据库实例产生主从延时,增加数据库告警数量。而且数据库主从延时会影响数据访问的准确性,延时期间如果主库发生故障,会有数据丢失的风险;延时也可能影响抽数等相关任务;

原因分析:Xtrabackup备份完idb数据文件后,执行FLUSH TABLES WITH READ LOCK(FTWRL),取得一致性位点,然后开始备份非InnoDB文件(如frm、MYD、MYI、CSV、opt、par等格式的文件),在拷贝非InnoDB文件的过程当中,数据库处于全局只读状态,直到非InnoDB文件备份完毕后释放;

参数说明

默认参数

FTWRL ,它有两个作用,

1:将打开的表关闭,并将内存中的脏数据刷到硬盘,从而保证数据的一致性;

2:获取全局读锁,阻塞其他线程的写操作,从而确保备份过程中数据不被修改;

--lock-ddl:

采用"LOCK TABLES FOR BACKUP",参数的作用是在整个备份过程中获取全局的元数据锁(MDL),以阻止所有 DDL 操作。这意味着当使用此参数时,任何尝试对数据库进行 DDL 操作(如 ALTER TABLE、CREATE TABLE 等)的线程都将被阻塞,直到备份完成并释放 MDL 锁。

FTWRL 和LOCK TABLES FOR BACKUP 区别

1,范围:FTWRL锁定所有表,包括事务性和非事务性的;LOCK TABLES FOR BACKUP主要锁定非事务性的表。

2, 阻塞: FTWRL会阻塞所有表的更新操作,LOCK TABLES FOR BACKUP只阻塞非事务表的更新操作;

3, LOCK TABLES FOR BACKUP

--lock-ddl-per-table

参数的作用是为每个备份的表单独获取 MDL 锁。这意味着备份工具会针对每个非 InnoDB 表单独加锁,而不是在整个备份过程中加全局锁。这种方式可以减少对数据库操作的阻塞,因为不是所有的 DDL 操作都会被阻塞,只有那些针对正在备份的表的 DDL 操作才会被阻塞,从而降低对数据库延时的影响;

--lock-ddl-per-table备份过程日志如下,日志中可以看到,备份每张表的时候都单独添加MDL锁

240313 12:49:27 Locking MDL for mysql.plugin
240313 12:49:27 [01] Copying ./mysql/plugin.ibd to /export/data/dbbak/localbackup/mysql/plugin.ibd
240313 12:49:27 [01]        ...done
240313 12:49:27 Locking MDL for mysql.servers
240313 12:49:27 [01] Copying ./mysql/servers.ibd to /export/data/dbbak/localbackup/mysql/servers.ibd
240313 12:49:27 [01]        ...done
240313 12:49:27 Locking MDL for mysql.help_topic
240313 12:49:27 [01] Copying ./mysql/help_topic.ibd to /export/data/dbbak/localbackup/mysql/help_topic.ibd
240313 12:49:27 [01]        ...done
240313 12:49:27 Locking MDL for mysql.help_category

功能测试

下面测试对比xtrabackup默认备份方式和 --lock-ddl-per-table方式 对备份延时,备份时长的影响;

备份方式

FTWRL

lock-ddl-per-table 第1次

lock-ddl-per-table 第2次

lock-ddl 第1次

lock-ddl 第2次

备份节点

xx,xx,xx,xx

xx,xx,xx,xxxx,xx,xx,xxxx,xx,xx,xxxx,xx,xx,xx

节点配置

8c 24576M

8c 24576M

8c 24576M

8c 24576M

8c 24576M

落盘方式

云盘

云盘

云盘

云盘

云盘

备份数据量

295GB

295GB

295GB

295GB

295GB

开始时间

3/13 15:26

3/13 15:26

3/13 16:37

3/13 20:13

3/13 20:20

结束时间

3/13 16:06

3/13 16:08

3/13 17:20

3/13 21:04

3/13 21:10

备份时长

40min

42min

43min

51min

50min

备份产生延时

114s

0

0

115s

120s

结论

1, 通过使用lock-ddl-per-table功能,会解决备份延时问题;

2, 相较于默认FTWRL方式,lock-ddl-per-table和lock-ddl备份时间会有些延长,如果个别业务在特定时间有大数据任务,要多加留意,避免备份时间延长从而影响抽数任务完成时间,进而影响上下游相关任务


http://www.ppmy.cn/ops/14915.html

相关文章

鸿蒙开发中:首选项(Preferences)和长连接(PersistentStorage)的区别

Preferences:可看做是配置项,为应用提供Key-Value键值型的数据处理能力,支持应用持久化轻量级数据,并对其修改和查询。Preferences中的数据会被缓存在内存中,因此它可以获得更快的存取速度。 PersistentStorage&#…

2024年电子商务与大数据经济国际会议 (EBDE 2024)

2024年电子商务与大数据经济国际会议 (EBDE 2024) 2024 International Conference on E-commerce and Big Data Economy 【会议简介】 2024年电子商务与大数据经济国际会议即将在厦门召开。本次会议旨在汇聚全球电子商务与大数据经济领域的专家学者,共同探讨电子商务…

新建stm32工程模板步骤

1.先使用keil新建一个project的基本代码 2.stm32启动文件添加 将stm32的启动文件,在原工程当中新建一个Start文件夹把相关的启动文件放到文件夹当中 然后还需要找到下面三个文件 stm32f10x.h是stm32的外设寄存器的声明和定义,后面那两个文件用于配置系…

低代码开发之腾讯云微搭工具

低代码开发之腾讯云微搭工具 微搭简介诞生缘由开发模式如何创建组件模块介绍实例讲解url传参级联联动使用事件其他方法调用数据源方法 callDataSource触发流程 callProcess 引入外部css/js代码编辑器的使用Handler 方法使用介绍Style 用法示例LifeCycle 生命周期介绍 数据模型方…

深度学习-优化策略

1.使用众所周知的梯度下降法。 (1).批量梯度下降法:每次参数更新使用所有的样本(2).随机梯度下降法:每次参数更新只使用一次样本(3).小批量梯度下降法:每次参数更新使用…

TS学习4-模块化

目录 1,ts 中如何使用模块化2,编译结果中的模块化2.1,使用 node 模块的问题 3,模块解析的策略 一些用到的配置项: 配置名称含义常见取值module设置编译结果中,使用的模块化标准es6,commonjsmod…

2、Flink DataStreamAPI 概述(下)

代码示例 Maven 依赖 <dependencies><dependency><groupId>org.apache.flink</groupId><artifactId>flink-streaming-java</artifactId><version>1.19.0</version></dependency><dependency><groupId>org…

二叉树的(前,中,后序)遍历

1&#xff0c;二叉树的概念 二叉树是一种重要的数据结构&#xff0c;它由节点组成&#xff0c;每个节点最多有两个子节点&#xff0c;分别称为左子节点和右子节点。二叉树具有以下特点&#xff1a; 1. **根节点&#xff08;Root&#xff09;**&#xff1a;二叉树的顶端节点称…