tidb实时同步到mysql

embedded/2025/2/22 12:29:08/

客户要求实时同步表的数据到mysql,但这个表在tidb
测试直接通过tidb cdc写入到mysql,有些字段是null,所以中间加了一个kafka实现

客户库中创建表
CREATE TABLE tb_1 (id bigint primary key,cid bigint,gid bigint,fee DECIMAL(10,2),created_at timestamp,type smallint,remark string ,key i_cid(cid)
);
tidbcdckafka_18">tidb配置cdc,写入到kafka

1、tidb添加cdc组件
2、配置cdc任务
cat your.toml

case-sensitive = true
enable-old-value = true
[filter]
rules = ['db.tb_1']

3、启动任务

tiup ctl:v5.3.0 cdc changefeed create --pd=http://pd-ip:2379 \
--sink-uri="kafka://kafka-ip:9092/your-topic?kafka-version=1.1.1&partition-num=1&max-message-bytes=67108864&replication-factor=1&protocol=canal-json" --changefeed-id="my" --sort-engine="unified" \
--start-ts=453870757254529193 --config your.toml

protocol=canal-json 使用这个格式
–start-ts这个通过一次导出查看,cat db/metadata

dumpling -u root -p pwd -h tidb-ip -P 3306  -F 1GiB --compress gzip -t 2 -o db -B db -T db.tb --where "cid=123456"

4、更新一条数据,看看kafka是不是有了

mysql_43">创建SQL作业,从kafka消费后入mysql
CREATE TABLE tb_1 (id bigint,cid bigint,gid bigint,fee DECIMAL(10,2),create_time timestamp,type smallint,remark string,PRIMARY KEY (`id`) NOT ENFORCED
) WITH (-- 定义 Kafka 参数'connector' = 'kafka','topic' = 'your-topic','scan.startup.mode' = 'latest-offset', 'properties.bootstrap.servers' = 'ip:9092','properties.group.id' = 'your-group','format' = 'canal-json', -- tidb 支持该方式'canal-json.ignore-parse-errors' = 'false'
);CREATE TABLE kh_tb_1 (id bigint,cid bigint,gid bigint,fee DECIMAL(10,2),create_time timestamp,type smallint,remark string,PRIMARY KEY (`id`) NOT ENFORCED
) WITH ('connector' = 'jdbc','url' = 'jdbc:mysql://xxxxxx:3306/db?rewriteBatchedStatements=true&serverTimezone=Asia/Shanghai','table-name' = 'tb_1','username' = 'user','password' = 'pwd','sink.buffer-flush.max-rows' = '5000','sink.buffer-flush.interval' = '2s','sink.max-retries' = '10'
);insert into kh_tb_1 select * from tb_1 where cid=xxxxxxx;

最后启动作业任务即可。


http://www.ppmy.cn/embedded/164324.html

相关文章

双非一本电子信息专业自学嵌入式,学完 Linux 后咋走?单片机 FreeRTOS 要补吗?

今天给大家分享的是一位粉丝的提问,双非一本电子信息专业自学嵌入式,学完 Linux 后咋走?单片机 & FreeRTOS 要补吗? 接下来把粉丝的具体提问和我的回复分享给大家,希望也能给一些类似情况的小伙伴一些启发和帮助。…

蓝桥杯 Day6 贪心

贪心 1.要点 2.例题 2022 砍竹子 学习: 1.模拟砍竹子砍到高度1&#xff0c;不过要记录过程高度&#xff0c;以便后续判断是否存在(想到集合哈希),然后外面嵌套数组(活用数据结构)resize给大小 vector<unordered_set<ll>> hs;//记录第i根竹子下降到1过程中的每…

Powershell Install deepseek

前言 deepseekAI助手。它具有聊天机器人功能&#xff0c;可以与用户进行自然语言交互&#xff0c;回答问题、提供建议和帮助解决问题。DeepSeek 的特点包括&#xff1a; 强大的语言理解能力&#xff1a;能够理解和生成自然语言&#xff0c;与用户进行流畅的对话。多领域知识&…

量子比特的实现与优化技术:解密量子计算的核心

量子比特的实现与优化技术:解密量子计算的核心 大家好,我是Echo_Wish,今天我们来聊聊量子计算中的一个核心概念——量子比特(qubit)的实现与优化技术。量子比特作为量子计算的基本单位,与经典计算中的比特有着本质的不同。本文将深入探讨量子比特的实现方法及其优化技术…

1. Linux下 MySQL 的详细安装与使用

1. Linux下 MySQL 的详细安装与使用 文章目录 1. Linux下 MySQL 的详细安装与使用1. Linux 下安装 MySQL8.0 的详细安装步骤&#xff1a;2. Linxu 当中的MySQL 设置远程登录3. 最后&#xff1a; 1. Linux 下安装 MySQL8.0 的详细安装步骤&#xff1a; 查看是否安装过MySQL&…

【小白学AI系列】NLP 核心知识点(八)多头自注意力机制

文章目录 **多头自注意力机制&#xff08;Multi-Head Self-Attention&#xff09;****核心概念** **1. 自注意力机制&#xff08;Self-Attention&#xff09;****2. 多头机制&#xff08;Multi-Head Attention&#xff09;****3. 为什么要用多头注意力机制&#xff1f;****4. 公…

AI助力下的PPT革命:DeepSeek 与Kimi的高效创作实践

清华大学出品《DeepSeek&#xff1a;从入门到精通》分享 在忙碌的职场中&#xff0c;制作一份高质量的PPT往往需要投入大量时间和精力&#xff0c;尤其是在临近截止日期时。今天&#xff0c;我们将探索如何借助 AI 工具 —— DeepSeek 和 Kimi —— 让 PPT 制作变得既快捷又高…

Coze怎么发送消息到飞书

在很多企业内部场景下&#xff0c;都需要发送数据到内部交流软件&#xff0c;如飞书、钉钉、企业微信 本文就以飞书为例&#xff0c;企业内部其他同事上报故障后&#xff0c;自动发送消息到飞书&#xff0c; 并相关人员 本文提供的案例为最小化案例&#xff0c;仅演示相关功能…