Debezium Oracle Connector SCN处理优化指南

server/2025/2/4 9:35:55/

Debezium Oracle Connector SCN处理优化指南

📌 问题场景

SCN跳跃场景

  • 起始SCN:15,000(含数据变更
  • 结束SCN:1,000,000(无中间数据)
  • 默认批次大小:10,000 → 需执行985次无效查询

🚀 优化方案

1. 自适应批次调整

代码位置LogMinerStreamingChangeEventSource.java (215-230行)

if (consecutiveEmptyBatches > EMPTY_BATCH_THRESHOLD) {int newBatchSize = Math.min(currentBatchSize * 2, config.getMaxBatchSize());config.setBatchSize(newBatchSize);LOGGER.info("动态调整批次至 {}", newBatchSize);
}

配置参数

log.mining.empty.scan.threshold=3   # 空批次触发阈值
log.mining.max.batch.size=1000000   # 最大批次大小

2. 空批次快速检测

优化查询

SELECT /*+ FIRST_ROWS(1) */ 1 
FROM V$LOGMNR_CONTENTS 
WHERE SCN > :startScn AND SCN <= :endScnAND OPERATION_CODE IN (1,2,3,5)  -- 过滤有效操作类型AND ROWNUM = 1

执行计划对比

优化项逻辑读次数执行时间
原始查询9,5008.5s
添加操作过滤1,2001.2s

http://www.ppmy.cn/server/164851.html

相关文章

简单安全策略实验

一.实验准备 1.实验要求 2.实验拓扑图 3.进行交互配置 二.配置需求 开启设备在交换机上进行基础配置&#xff08;1&#xff09;让同一区间可以ping通 划分vlan并放通vlan 配置左侧设备 进入防火墙打开web服务 配置防火墙ip 配置前&#xff1a; 配置后&#xff1a; 按要求做实…

国土安全保障利器,高速巡飞无人机技术详解

高速巡飞无人机作为国土安全保障的利器&#xff0c;其技术特性和应用价值不可小觑。以下是对高速巡飞无人机技术的详细解析&#xff1a; 一、技术原理与关键组件 高速巡飞无人机的工作原理基于先进的飞行控制系统和制导技术。其核心组件主要包括&#xff1a; 1. 动力系统&…

网站快速收录:如何设置robots.txt文件?

本文转自&#xff1a;百万收录网 原文链接&#xff1a;https://www.baiwanshoulu.com/34.html 为了网站快速收录而合理设置robots.txt文件&#xff0c;需要遵循一定的规则和最佳实践。robots.txt文件是一个纯文本文件&#xff0c;它告诉搜索引擎爬虫哪些页面可以访问&#xff…

doris:删除操作概述

在 Apache Doris 中&#xff0c;删除操作&#xff08;Delete&#xff09;是一项关键功能&#xff0c;用于管理和清理数据&#xff0c;以满足用户在大规模数据分析场景中的灵活性需求。 Doris 提供了丰富多样的删除功能支持&#xff0c;包括&#xff1a;DELETE 语句、删除标记&…

java练习(5)

ps:题目来自力扣 给你两个 非空 的链表&#xff0c;表示两个非负的整数。它们每位数字都是按照 逆序 的方式存储的&#xff0c;并且每个节点只能存储 一位 数字。 请你将两个数相加&#xff0c;并以相同形式返回一个表示和的链表。 你可以假设除了数字 0 之外&#xff0c;这…

Scratch 《像素战场》系列综合游戏:像素战场游戏Ⅰ~Ⅲ 介绍

资源下载 Scratch《像素战场》系列综合游戏合集&#xff1a;像素战场游戏Ⅰ~Ⅲ压缩包 https://download.csdn.net/download/leyang0910/90332765 游戏操作介绍 Scratch 《像素战场Ⅰ》操作规则&#xff1a; 这是一款与朋友一起玩的 1v1 游戏。先赢得6轮胜利&#xff01; WA…

Nginx知识

nginx 精简的配置文件 worker_processes 1; # 可以理解为一个内核一个worker # 开多了可能性能不好events {worker_connections 1024; } # 一个 worker 可以创建的连接数 # 1024 代表默认一般不用改http {include mime.types;# 代表引入的配置文件# mime.types 在 ngi…

Redis真的是单线程的吗?

在学习redis的过程中老是听到&#xff1a;Redis快的原因之一是单线程模型&#xff0c;省去线程切换和竞争的性能开销&#xff0c;但是深入了解redis之后发现它并不是纯的单线程。 Redis 单线程指的是「接收客户端请求->解析请求 ->进行数据读写等操作->发送数据给客户…