分布式系统事务一致性解决方案（基于事务消息）

server/2024/9/22 19:05:26/

参考：https://rocketmq.apache.org/zh/docs/featureBehavior/04transactionmessage/

文章目录

    • 概要
    • 错误的方案
    • 方案一：业务方自己实现
    • 方案二：RocketMQ 事务消息
      • 什么是事务消息
      • 事务消息处理流程
      • 事务消息生命周期
      • 使用限制
      • 使用示例
      • 使用建议

概要

说起分布式事务，就会谈到 Bob 给 Smith 账户转账的问题：2 个账号， 分别处于 A、B 两个 DB，或者说 2 个不同的子系统中，Bob 的账户要扣钱，Smith 的账户要加钱，如何保证原子性？

一般思路是通过消息中间件来实现 “最终一致性”：A系统扣钱，然后发送消息给 MQ，B系统接收此消息，进行加钱。

但这里有个问题：是先update DB后发消息？还是先发消息后update DB呢？

  • 假设先update DB成功，发送消息时网络问题，重发又失败，怎么办？
  • 假设先发送消息成功，update DB失败。消息已经发出去了，又不能撤回，怎么办？

所以，只要发送消息和update DB这2个操作不是原子的，无论谁先谁后，都会有问题。

错误的方案

有人可能会想到，可以把 “发送消息” 这个网络调用和 update DB 放在同一个事务中，如果发送消息失败，update DB 自动回滚。这样不就保证原子性了吗？

这个方案看似正确，但其实是错误的，原因：

  1. 把网络调用放在 DB 事务中，可能会因为网络的延时，导致 DB 长事务。严重的还会 block 整个 DB，这个风险很大。
  2. 如果发送消息失败，发送方并不知道是 MQ 没收到消息，还是已收到消息只是返回 response 的时候失败了。如果接收方已经收到消息了，而发送方认为没有收到，执行 update DB 回滚的操作，会导致 A 账户钱没有扣，B 账户的钱却增加了。

方案一：业务方自己实现

假设消息中间件没提供 “事务消息” 功能，比如 Kafka。那该如何解决这个问题？

结局方案如下：

  1. Producer 准备 1 个消息表，把 update DB 和 send message 这 2 个操作，放在一个DB事务中。
  2. 准备一个后台程序，不停地把消息表中的 message 传送给消息中间件。发送失败则不断重试，直到成功。允许消息重复，但消息不会丢。
  3. Consumer 准备 1 个判重表。处理过的消息记录在里面，实现业务的幂等性

通过以上 3 步，就基本解决了原子性问题

但此方案缺点是：需要设计 DB 消息表，同时还需要 1 个后台任务，不断扫描本地消息。导致消息的处理和业务逻辑耦合，额外增加业务方的负担。

方案二：RocketMQ 事务消息

目前各大知名电商平台和互联网公司，几乎都是使用 “事务消息” 这种方案来实现 “最终一致性” 的。这种方式适用的业务场景广泛，且比较靠谱。

什么是事务消息

事务消息是 Apache RocketMQ 提供的一种高级消息类型，支持在分布式场景下保障消息生产和本地事务的最终一致性。

事务消息处理流程

事务消息交互流程如下图所示。

在这里插入图片描述

  1. 生产者将消息发送至Apache RocketMQ服务端。

  2. Apache RocketMQ服务端将消息持久化成功之后，向生产者返回Ack确认消息已经发送成功，此时消息被标记为"暂不能投递"，这种状态下的消息即为半事务消息。

  3. 生产者开始执行本地事务逻辑。

  4. 生产者根据本地事务执行结果向服务端提交二次确认结果（Commit或是Rollback），服务端收到确认结果后处理逻辑如下：

    • 二次确认结果为Commit：服务端将半事务消息标记为可投递，并投递给消费者。

    • 二次确认结果为Rollback：服务端将回滚事务，不会将半事务消息投递给消费者。

  5. 在断网或者是生产者应用重启的特殊情况下，若服务端未收到发送者提交的二次确认结果，或服务端收到的二次确认结果为Unknown未知状态，经过固定时间后，服务端将对消息生产者即生产者集群中任一生产者实例发起消息回查（服务端回查的间隔时间和最大回查次数，请参见参数限制）。

  6. 生产者收到消息回查后，需要检查对应消息的本地事务执行的最终结果。

  7. 生产者根据检查到的本地事务的最终状态再次提交二次确认，服务端仍按照步骤4对半事务消息进行处理。

事务消息生命周期

在这里插入图片描述

  • 初始化：半事务消息被生产者构建并完成初始化，待发送到服务端的状态。

  • 事务待提交：半事务消息被发送到服务端，和普通消息不同，并不会直接被服务端持久化，而是会被单独存储到事务存储系统中，等待第二阶段本地事务返回执行结果后再提交。此时消息对下游消费者不可见。

  • 消息回滚：第二阶段如果事务执行结果明确为回滚，服务端会将半事务消息回滚，该事务消息流程终止。

  • 提交待消费：第二阶段如果事务执行结果明确为提交，服务端会将半事务消息重新存储到普通存储系统中，此时消息对下游消费者可见，等待被消费者获取并消费。

  • 消费中：消息被消费者获取，并按照消费者本地的业务逻辑进行处理的过程。 此时服务端会等待消费者完成消费并提交消费结果，如果一定时间后没有收到消费者的响应，Apache RocketMQ会对消息进行重试处理。具体信息，请参见消费重试。

  • 消费提交：消费者完成消费处理，并向服务端提交消费结果，服务端标记当前消息已经被处理（包括消费成功和失败）。 Apache RocketMQ默认支持保留所有消息，此时消息数据并不会立即被删除，只是逻辑标记已消费。消息在保存时间到期或存储空间不足被删除前，消费者仍然可以回溯消息重新消费。

  • 消息删除：Apache RocketMQ按照消息保存机制滚动清理最早的消息数据，将消息从物理文件中删除。更多信息，请参见消息存储和清理机制。

使用限制

  1. 消息类型一致性
    事务消息仅支持在 MessageType 为 Transaction 的主题内使用，即事务消息只能发送至类型为事务消息的主题中，发送的消息的类型必须和主题的类型一致。

  2. 消费事务性
    Apache RocketMQ 事务消息保证本地主分支事务和下游消息发送事务的一致性，但不保证消息消费结果和上游事务的一致性。因此需要下游业务分支自行保证消息正确处理，建议消费端做好消费重试，如果有短暂失败可以利用重试机制保证最终处理成功。

  3. 中间状态可见性
    Apache RocketMQ 事务消息为最终一致性，即在消息提交到下游消费端处理完成之前，下游分支和上游事务之间的状态会不一致。因此，事务消息仅适合接受异步执行的事务场景。

  4. 事务超时机制
    Apache RocketMQ 事务消息的生命周期存在超时机制，即半事务消息被生产者发送服务端后，如果在指定时间内服务端无法确认提交或者回滚状态，则消息默认会被回滚。事务超时时间，请参见参数限制。

使用示例

创建主题

Apache RocketMQ 5.0版本下创建主题操作，推荐使用mqadmin工具，需要注意的是，对于消息类型需要通过属性参数添加。示例如下：

sh mqadmin updateTopic -n <nameserver_address> -t <topic_name> -c <cluster_name> -a +message.type=TRANSACTION

发送消息

事务消息相比普通消息发送时需要修改以下几点：

  • 发送事务消息前，需要开启事务并关联本地的事务执行。

  • 为保证事务一致性，在构建生产者时，必须设置事务检查器和预绑定事务消息发送的主题列表，客户端内置的事务检查器会对绑定的事务主题做异常状态恢复。

创建事务主题

NORMAL类型Topic不支持TRANSACTION类型消息，生产消息会报错。

./bin/mqadmin updatetopic -n localhost:9876 -t TestTopic -c DefaultCluster -a +message.type=TRANSACTION

  • -c 集群名称
  • -t Topic名称
  • -n nameserver地址
  • -a 额外属性，本例给主题添加了message.type为TRANSACTION的属性用来支持事务消息

以Java语言为例，使用事务消息示例参考如下：

    //演示demo，模拟订单表查询服务，用来确认订单事务是否提交成功。private static boolean checkOrderById(String orderId) {return true;}//演示demo，模拟本地事务的执行结果。private static boolean doLocalTransaction() {return true;}public static void main(String[] args) throws ClientException {ClientServiceProvider provider = new ClientServiceProvider();MessageBuilder messageBuilder = new MessageBuilderImpl();//构造事务生产者：事务消息需要生产者构建一个事务检查器，用于检查确认异常半事务的中间状态。Producer producer = provider.newProducerBuilder().setTransactionChecker(messageView -> {/*** 事务检查器一般是根据业务的ID去检查本地事务是否正确提交还是回滚，此处以订单ID属性为例。* 在订单表找到了这个订单，说明本地事务插入订单的操作已经正确提交；如果订单表没有订单，说明本地事务已经回滚。*/final String orderId = messageView.getProperties().get("OrderId");if (Strings.isNullOrEmpty(orderId)) {// 错误的消息，直接返回Rollback。return TransactionResolution.ROLLBACK;}return checkOrderById(orderId) ? TransactionResolution.COMMIT : TransactionResolution.ROLLBACK;}).build();//开启事务分支。final Transaction transaction;try {transaction = producer.beginTransaction();} catch (ClientException e) {e.printStackTrace();//事务分支开启失败，直接退出。return;}Message message = messageBuilder.setTopic("topic")//设置消息索引键，可根据关键字精确查找某条消息。.setKeys("messageKey")//设置消息Tag，用于消费端根据指定Tag过滤消息。.setTag("messageTag")//一般事务消息都会设置一个本地事务关联的唯一ID，用来做本地事务回查的校验。.addProperty("OrderId", "xxx")//消息体。.setBody("messageBody".getBytes()).build();//发送半事务消息final SendReceipt sendReceipt;try {sendReceipt = producer.send(message, transaction);} catch (ClientException e) {//半事务消息发送失败，事务可以直接退出并回滚。return;}/*** 执行本地事务，并确定本地事务结果。* 1. 如果本地事务提交成功，则提交消息事务。* 2. 如果本地事务提交失败，则回滚消息事务。* 3. 如果本地事务未知异常，则不处理，等待事务消息回查。*/boolean localTransactionOk = doLocalTransaction();if (localTransactionOk) {try {transaction.commit();} catch (ClientException e) {// 业务可以自身对实时性的要求选择是否重试，如果放弃重试，可以依赖事务消息回查机制进行事务状态的提交。e.printStackTrace();}} else {try {transaction.rollback();} catch (ClientException e) {// 建议记录异常信息，回滚异常时可以无需重试，依赖事务消息回查机制进行事务状态的提交。e.printStackTrace();}}}

使用建议

  1. 避免大量未决事务导致超时

    Apache RocketMQ支持在事务提交阶段异常的情况下发起事务回查，保证事务一致性。但生产者应该尽量避免本地事务返回未知结果。大量的事务检查会导致系统性能受损，容易导致事务处理延迟。

  2. 正确处理"进行中"的事务

    消息回查时，对于正在进行中的事务不要返回Rollback或Commit结果，应继续保持Unknown的状态。 一般出现消息回查时事务正在处理的原因为：事务执行较慢，消息回查太快。解决方案如下：

    • 将第一次事务回查时间设置较大一些，但可能导致依赖回查的事务提交延迟较大。

    • 程序能正确识别正在进行中的事务。


http://www.ppmy.cn/server/22551.html

相关文章

数海启航：数学与人工智能的深度交织

数海启航：数学与人工智能的深度交织

在人类文明的长河中&#xff0c;数学始终扮演着探秘未知、构建理论框架的基石角色。随着科技的飞速发展&#xff0c;尤其是人工智能&#xff08;AI&#xff09;的兴起&#xff0c;数学与这一前沿领域的结合愈发紧密&#xff0c;成为推动AI进步的最强引擎。 一、数学&#xff1a…
阅读更多...
Linux深入理解内核 - 内存寻址

Linux深入理解内核 - 内存寻址

目录 引论&#xff0c;三个地址 硬件中的分段 段描述符 快速访问段描述符 分段单元 Linux GDT Linux LDT 硬件中的分页 PAE 硬件高速缓存 TLB Linux中的分页 页表类型定义pgd_t、pmd_t、pud_t和pte_t pteval_t&#xff0c;pmdval_t&#xff0c;pudval_t&#xff0…
阅读更多...
WeFeShare |联邦SQL-畅享分布式数据的无缝连接和查询

WeFeShare |联邦SQL-畅享分布式数据的无缝连接和查询

WeFeShare &#xff1a;天冕科技独家策划的「隐私计算」分享栏目&#xff0c;内容主要围绕技术原理探讨、系统架构分析、应用场景介绍以及实例部署讲解等&#xff0c;和用户共同玩转联邦学习。 *本文约2600字&#xff0c;阅读约需6分钟 天冕联邦学习平台&#xff08;WeFe&#…
阅读更多...
深入解析Python中的索引用法：掌握列表、字符串和元组的索引方式

深入解析Python中的索引用法：掌握列表、字符串和元组的索引方式

在Python编程中&#xff0c;索引是一种重要的操作方式&#xff0c;用于快速定位和访问数据结构中的元素。索引操作可以应用于列表、字符串和元组等多种数据类型&#xff0c;具有广泛的应用场景。 本文将详细介绍Python中索引的用法&#xff0c;帮助读者深入理解和熟练运用索引…
阅读更多...
Java-字符集-Unicode字符集

Java-字符集-Unicode字符集

1 需求 Unicode 字符集UTF-8、UTF-16、UTF-32字符编码 2 接口 3 示例 4 参考资料
阅读更多...
天冕科技亮相第十七届深圳国际金融博览会！

天冕科技亮相第十七届深圳国际金融博览会！

第十七届深圳国际金融博览会在深圳会展中心正式开幕&#xff0c;天冕科技跟随南山区组团集体亮相&#xff0c;充分展现金融活力。此次金博会&#xff0c;南山区政府共遴选了包括天冕科技在内的三家优秀金融科技企业组团参展&#xff0c;以特色与创新的案例展示了辖区金融业发展…
阅读更多...
【随想录】Day36—第八章 贪心算法 part05

【随想录】Day36—第八章 贪心算法 part05

目录 题目1: 无重叠区间1- 思路2- 题解⭐ 无重叠区间——题解思路 题目2: 763. 划分字母区间1- 思路2- 题解⭐ 划分字母区间——题解思路 题目3: 56. 合并区间1- 思路2- 题解⭐ 合并区间——题解思路 题目1: 无重叠区间 题目链接&#xff1a;435. 无重叠区间 1- 思路 贪心思路…
阅读更多...
【AI大模型】Prompt Engineering 基础知识与挑战

【AI大模型】Prompt Engineering 基础知识与挑战

前言 Prompt Engineering&#xff0c;即提示工程&#xff0c;是一种新兴的技术领域&#xff0c;它主要研究如何设计有效的提示&#xff08;Prompt&#xff09;来引导用户生成特定的输出。随着自然语言处理技术的快速发展&#xff0c;特别是预训练语言模型&#xff08;如 GPT-3…
阅读更多...
最新文章

Copyright @ 2022~2023