Mysql日志binlog、redolog、undolog

news/2024/11/14 20:09:13/
Mysql有多种日志，承担着不同的功能。

BinLog高可用的基石

Binlog是Mysql的server层记录的日志，包含表结构和数据的变更。Binlog有两个常用的作用，一个是用作数据库恢复，通过数据库快照和binlog，我们可以把数据库恢复到任意时刻。另一个是用于数据库复制，通过将binlog传给其他数据库副本，然后再执行binlog中的sql实现数据的同步，构建出一套高可用的数据库服务。

使用show global variables like 'log_bin'; 可以查看日志是否开启。在Mysql5.7默认是不开启，可通过--log-bin=xx开启，xx代表日志文件的名称。在Mysql8.0之后是默认开启，可以使用--skip-log-bin或--disable-log-bin进行禁用。

日志格式

Binlog有三种格式，通过--binlog-format启动参数进行设置，也可以通过系统变量查看当前binlog_format的值。

show global variables like 'binlog_format';
+-------------+-----+
|Variable_name|Value|
+-------------+-----+
|binlog_format|MIXED|
+-------------+-----+

  1. statment，基于语句的模式，记录原始的sql。这种模式存在不确定的问题，例如下面这条语句的now()函数取的是当前时间，在从库重新执行这个sql时，时间值跟主库执行的时间必然不同。

    -- 原始SQL
BEGIN;
update post set updated_date = now() where id <= 10;
COMMIT;-- bin log文件
# at 123456
#210714 12:34:56 server id 1  end_log_pos 123 Query thread_id=123  exec_time=0  error_code=0
SET TIMESTAMP=123456;
BEGIN;
update post set updated_date = now() where id <= 10;
COMMIT;

  2. row（默认值），基于行变更的模式，记录sql影响每条数据的变化。日志里记录的数据就比较多。

    -- 原始SQL
BEGIN;
update post set updated_date = now() where id <= 10;
COMMIT;-- bin log文件
# at 123456
#210714 12:34:56 server id 1  end_log_pos 123 Xid = 456
BEGIN
#210714 12:35:00 server id 1  end_log_pos 234 Table_map: `demo`.`post` mapped to number 123
#210714 12:35:05 server id 1  end_log_pos 345 Update_rows: table id 123 flags: STMT_END_F
### UPDATE `demo`.`post`
### WHERE
###   @1=1
### SET
###   @2='2023-12-01 12:34:56'
#210714 12:35:10 server id 1  end_log_pos 456 Update_rows: table id 123 flags: STMT_END_F
### UPDATE `demo`.`post`
### WHERE
###   @1=2
### SET
###   @2='2023-12-01 12:34:57'
# ... (类似的 Update_rows 记录，覆盖 id 为 3 到 10)
#210714 12:35:15 server id 1  end_log_pos 567 Xid = 456
COMMIT

  3. mixed，statment和row混合模式，默认情况下使用statment格式记录日志，日志内容会少一些，在特殊情况下会使用row格式。例如，使用这些函数，UUID()、FOUND_ROWS()、ROW_COUNT()、USER()、CURRENT_USER()、LOAD_FILE()或者使用系统变量时，会用到row模式。

写日志的时机

对于innodb引擎。mysql在引擎提交事务时，先保存binlog再完成事务提交。为了保证数据一致性，完整的流程是先把redo log设置成prepare状态，再提交binlog，然后把redo log设置为commit状态。

RedoLog

redolog是innodb引擎提供的日志，日志会记录数据执行sql前后的变化。redo log在磁盘上存储时会有很多种格式类型，下面例子只是说明会记录哪些信息:

-- 原始SQL
BEGIN;
update user set name = '小李' where id = 1;
insert into user(id, name) values(2, '小红');
delete from user where id = 3; 
COMMIT;-- 日志内容示意
TransactionID: 127
PageID: 462
Operation: MULTIPLE_UPDATES
Updates:- UpdateType: UPDATEBefore Image: (1, '小明')After Image: (1, '小李')- UpdateType: INSERTAfter Image: (2, '小红')- UpdateType: DELETEBefore Image: (3, '小张')

使用redo log能提升数据库写入的性能，并且在数据库奔溃时，帮助数据库恢复到崩溃前的状态。

提升写入性能

redo log以AWL（Ahead Write Log）的方式记录日志，通过顺序写日志的方式记录变更。数据库中的记录存是放在磁盘的不同位置，直接修改数据会产生随机io，性能比顺序io要差。

另外，数据库会创建几个(默认4个，8.0.30改成了32个)日志文件合成日志组，循环记录日志。当一个文件满了就会写入到下一个文件，当最后一个文件满了，又重新写入到第一个文件。为了避免新日志写入会覆盖之前的日志，当redo log提交后，会有后台线程清理掉这部分日志数据，把文件空出来。日志组有write pos和checkpoint两个指针来记录新日志写到哪个位置，以及旧日志已经清除的位置。当write pos追上checkpoint时，数据库就要停下来将一部分日志变更sync到磁盘并擦除日志，把位置空出来。

奔溃恢复

数据库发生crash，会导致部分事务的数据还没提交完成。在重启数据库的时候就需要将这部分数据恢复回去。哪些数据需要恢复是根据redo log和bin log综合进行判断。

在描述奔溃恢复逻辑之前，我们先看一下redo log和binlog的写入过程。

两阶段提交

在事务内执行变更sql会生成redo log，因为事务还没提交所以redo log还不能直接落盘。这时会把修改先记录到log buffer，在提交事务时，先把redo log的状态设置为prepare并存入磁盘，然后提交binlog存入磁盘，最后将redo log设置为commit状态存日磁盘。这也是分布式事务常用的方式，是为了保证redo log和binlog的事务性。

然后我们看下，这个过程中不同时刻数据库发生crash需要怎么恢复:

  1. 写入log buffer后，数据库奔溃。因为数据只是写入了内存，redo log和binlog还没记录，所以丢失后就相当于事务回滚了。
  2. redo log完成prepare保存，数据库奔溃。这时binlog还没提交，所以数据变更事件还没同步给从库，所以可以直接回滚本地事务。
  3. binlog已经提交，数据库奔溃。这时redo log已经处于prepare阶段，redo log里的内容是完整的，binlog内容也是完整的，并且binlog的数据已经同步给从库，这时候只能提交事务，把redo log设置为commit。
  4. redo log的commit已提交，那么说明事务已经处理成功，把事务设置成完成。

落盘策略

redo log在事务未提交前会先写入到log buffer。然后在事务提交时，再写入page cache，最后同步回磁盘。根据数据可靠性和性能的考虑，数据库提供了三种落盘策略，由innodb_flush_log_at_trx_commit参数控制:

0：redo log先写入log buffer，由后台线程每秒写入page cache并同步到磁盘。这个方式性能最高，但数据库crash会导致数据丢失。

1：redo log会马上同步到磁盘（这个是默认值），性能差一点，但数据可靠性高。

2：redo log先写入到page cache，由后台线程每秒将日志写入磁盘。这个过程数据库crash不会影响page cache的内容，但是服务器宕机会导致数据丢失。

另外，可以通过innodb_flush_log_at_timeout控制log buffer刷新到磁盘的频率，默认1秒，最大值是2700秒。

UndoLog

undo log记录了事务内的所有数据变更，用于回滚事务和实现一致性读。当数据行更新后后，会生成一条undo log，记录之前的值。然后数据行会有一个隐藏的字段Roll Pointer指针，指向上一条undo log的位置。如果同一条记录有多次更新，就会有多条undo log，形成链表。

单条日志的格式如下:

-- 原始SQL
BEGIN;
update user set name = '小李' where id = 1;
COMMIT;-- 日志内容示意
-------------------------------------
| Transaction ID    | 123456
| Roll Pointer       | 789012
| Transaction Type   | UPDATE
| Table ID           | 456
| Page Number        | 789
| Slot Number        | 1
| Undo Record Type   | Regular Undo
| Undo Record Size   | 100 bytes
| SQL Operation      | UPDATE user SET name = '小李' WHERE id = 1;
| Undo Segment ID    | 789012
| Segment State      | ACTIVE
| Transaction State  | COMMITTED
| Prev Transaction ID| 789455
| 其他记录信息
-------------------------------------

需要回滚事务，就通过记录里的Roll Pointer指针，找到上一条redo log，然后更新成原来的值。

一致性读

在可重复读的事务隔离级别，多次查询同一条记录，看到的结果是一样的，我们称这个现象为一致性读。

一致性读依赖于MVCC，MVCC的多个版本指的是一行记录存在多个版本，记录每次更新就会产生一个新版本。这里的新版本并不是说一行记录会拷贝成多份，记录只存最新的一条，然后之前的版本会各自对应一条undo log，日志里会记录变更内容的原始值。一致性读就是从最新版本开始，沿着redo log链找到当前事务可见的版本，将沿途的undo log都执行一次，就是当前事务能看到的数据状态。

例如：

  1. t1时刻，事务tx1，查询select name,age from user where id = 1；结果是‘小李’和25。
  2. t2时刻，事务tx2，将update user set name = ‘小明’ where id = 1；结果是‘小明’和25。undo log 1记录name=‘小李’
  3. t3时刻，事务tx3，将update user set age= 26 where id = 1；结果是‘小明’和26。undo log 2记录age=25
  4. t4时刻，事务tx1，再查询select name,age from user where id = 1；结果依然是‘小李’和25。这时，会从‘小明’和26开始，执行undolog 2，结果得到‘小明’和25；再执行undelog 1，结果得到‘小李’和25。

UndoLog对事务性能的影响

事务变更数据的时候需要记录undo log，undo log的数量是有限的。undo log存放于undo log segments，undo log segments会包含多个事务的undo log，但同时只能被一个事务使用。所以新事物只能等之前的事务提交或回滚之后才能，才能用它的undo log segments。undo log segments默认是数据页的1/16，innodb数据页是16k，所以undo log segments默认是1024。

undo log segments存放于rollback segments，rollback segments默认是128个，通过show global variables like 'innodb_rollback_segments'; 查看。

rollback segments从undo tablespace或者global temperary tablespaces（全局临时表空间）分配。undo tablespace默认分配2个，也可以自己添加。global temperary tablespaces是1个。undo log数量公式是：

undo log数量 = tablespaces * rollback segments * undo log segments

所以，非内存表能分配2×128×1024=262144个undo log segments，内存表1×128×1024=131072个undo log segments，

一个事务会消耗的undo log数量是不一样的，有四种情况会消耗undo log:

  1. 非内存表的所有insert会放入一个undo log
  2. 非内存表的所有update或delete会放入一个undo log
  3. 内存表的所有insert会放入一个undo log
  4. 内存表的所有update或delete会放入一个undo log

如果事务里包含这四种操作，就会占用四个log rollback segment。当undo log数量不够时，就会影响事务写入。


http://www.ppmy.cn/news/1262430.html

相关文章

React中使用TypeScript代替prop-types

React中使用TypeScript代替prop-types

原文链接 公众号-React中使用TypeScript代替prop-types 个人公众号&#xff0c;呜呜呜&#xff0c;求各位大佬们关注下&#xff0c;本人的公众号主要写React 跟NodeJs的 ​关于prop-types 对于部分的同学&#xff0c;不大了解为什么我们的代码里面要用到prop-types这个库&a…
阅读更多...
UE5 - 把ArchvizExplorer项目改造成自己的数字孪生项目 - 开发记要

UE5 - 把ArchvizExplorer项目改造成自己的数字孪生项目 - 开发记要

参考&#xff1a; https://blog.csdn.net/qq_17523181/article/details/133853099 https://blog.csdn.net/qq_17523181/article/details/134455597 1. 安装项目 https://www.unrealengine.com/marketplace/zh-CN/product/archviz-explorer https://karldetroit.com/archviz-exp…
阅读更多...
Go语言初始化数组的六种方式

Go语言初始化数组的六种方式

介绍 在Go语言中&#xff0c;有多种方式可以初始化数组&#xff0c;本文将介绍初始化数组的六种方法。 方式1&#xff1a;指定数组大小并初始化 var array [3]int [3]int{1, 2, 3}指定数组的大小为3&#xff0c;并初始化为指定的值1, 2, 3。 方式2&#xff1a;根据初始化值…
阅读更多...
使用 nnUNetv2 的一些踩坑记录（或许还会有继续更新

使用 nnUNetv2 的一些踩坑记录（或许还会有继续更新

nnUNet 依然是最鲁棒的分割网络。今年初原作者更新了 nnUNet 的第二版即 nnUNetv2&#xff0c;题主近期试用的时候有一些踩坑的地方进行记录。 没有官方提供的预训练权重 官方文档在一个非常不起眼的角落提及了&#xff0c;v2版本尚无预训练权重可直接使用&#xff0c;有相关…
阅读更多...
Golang使用Swagger文档教程

Golang使用Swagger文档教程

Golang开发效率是杠杠滴&#xff0c;简单几行代码就可完成一个可用的服务&#xff0c;如下代码&#xff1a; 采用Gin作为web framework采用Gorm作为持久化ORM采用Swagger作为OpenAPI文档管理工具 package mainimport ("encoding/csv""fmt""os"…
阅读更多...
波奇学C++：function包装器和智能指针(一)

波奇学C++：function包装器和智能指针(一)

function包装器 相当于适配器&#xff0c;用于对可调用对象&#xff08;函数指针&#xff0c;仿函数&#xff0c;lambda&#xff09;进行封装&#xff0c;使得他们的类型统一。 double func(double d) {return d / 4; } struct func1 {double operator()(double d){return d …
阅读更多...
ElasticSearch 谈谈你对段合并的策略思想的认识

ElasticSearch 谈谈你对段合并的策略思想的认识

段合并是Elasticsearch中的一个重要概念&#xff0c;它在数据索引和查询过程中起着关键的作用。Elasticsearch使用Lucene作为其全文搜索库&#xff0c;Lucene中使用的数据结构就是段&#xff08;Segment&#xff09;合并。 段合并的策略思想主要体现在以下几个方面&#xff1a…
阅读更多...
dll动态链接库【C#】

dll动态链接库【C#】

1说明&#xff1a; 在C#中&#xff0c;dll是添加 【类库】生成的。 2添加C#的dll&#xff1a; &#xff08;1&#xff09;在VS中新建一个Windows应用程序项目&#xff0c;并命名为TransferDll。 &#xff08;2&#xff09;打开Windows窗体设计器&#xff0c;从工具箱中为窗体…
阅读更多...
最新文章

Copyright @ 2022~2023