kafka学习

devtools/2025/1/22 3:40:07/

kafka (消息、生产者、消费者、toptic、分区、偏移量、broker、集群)

Kafka是什么?

学习Kafka的目的,为了解决高吞吐量项目的需求,Kafka号称大数据的杀手锏,这款为大数据而生的消息中间件,以其百亿级tps的吞吐量名声大噪,迅速成为大数据领域的宠儿,在数据采集、传输、存储的过程中发挥着举足轻重的作用。

1、 toptic:在生产者把消息放入kafka的时候,需要给消息分好主题,而消费者对订阅不同的主题

在这里插入图片描述

2、分区一个主题可以包括多个分区(Partition)

分区可以分布在不同的服务器上,这样一个主题也可以分布在不同的服务器上,会比单个服务器更强大
在这里插入图片描述
生产者会把消息放在相应的主题的相应的分区下面(通常有两种情况(1)生产者指定了分区,(2)通过一个分区器,根据消息里面的键),一条消息通常包括:主题、分区、键、值,这样它才能找到相应的去处
在这里插入图片描述

3、偏移量:消费者怎么读取数据?根据偏移量(offset)来读取

1、偏移量(offset):第几个
2、一个分区里,每个消息的偏移量是唯一的
3、消费者只能顺序读取

4、broker 一个独立的kafka服务器被称为broker, 一个broker中有多个主题, 而每个主题中可能会有多个分区,broker接收生产者的消息,为每个消息设置相应的偏移量,然后把消息报存到磁盘里,broker也为消费者提供服务,响应消费者的请求

在这里插入图片描述

5、集群:多个broker就组成了kafka集群

在这里插入图片描述

kafka应用场景之一

在这里插入图片描述

消息队列的两种模型

在这里插入图片描述


http://www.ppmy.cn/devtools/152491.html

相关文章

nacos安装及SpringCloud整合

参考资料: 参考视频 参考demo SpringCloud-Alibaba基础框架搭建 nacos官网 nacos部署教程: 1.准备环境 - 1.64 bit OS,支持 Linux/Unix/Mac/Windows,推荐选用 Linux/Unix/Mac。 - 2.64 bit JDK 1.8+;下载 & 配置。 - 3.Maven 3.2.x+;下载 & 配置。 2.版本选…

Django多线程爬虫:突破数据抓取瓶颈

Django框架以其高效、安全、可扩展性强等特点,在Web开发领域得到了广泛应用。同时,Python语言的多线程支持和丰富的库也为开发多线程爬虫提供了便利。将Django与多线程技术相结合,不仅可以利用Django的强大功能进行项目管理和数据存储&#x…

HTML中相对路径和绝对路径详解

文章目录 HTML中相对路径和绝对路径详解一、引言二、绝对路径1、定义2、使用场景3、代码示例 三、相对路径1、定义2、使用方法3、代码示例 四、使用示例1、图片路径2、CSS和JavaScript文件路径3、页面内部链接 五、总结 HTML中相对路径和绝对路径详解 一、引言 在HTML开发中&a…

MySQL面试题2025 每日20道【其四】

1、你们生产环境的 MySQL 中使用了什么事务隔离级别?为什么? 中等 在生产环境中,MySQL数据库的事务隔离级别通常由开发团队或数据库管理员根据应用的需求来设定。MySQL支持四种标准的事务隔离级别: 读未提交(Read Unc…

【useReducer Hook】集中式管理组件复杂状态

文章目录 引言语法项目结构定义 ReducerCounterReducer.ts 定义类型types.ts 使用 useReducer 管理状态Counter.tsx 应用入口App.tsx 解释与总结useReducer 的作用示例中的具体实现注意事项 引言 在 React 中,useState 是一个常用的 Hook,用于管理组件的…

STM32-串口-UART-Asynchronous

一,发送数据 #include "stdio.h" uint8_t hello[]"Hello,blocking\r\n"; HAL_UART_Transmit(&huart1,hello,sizeof(hello),500); 二,MicroLIB-printf(" hello\r\n") #include "stdio.h" #ifdef __GNUC…

IEEE期刊;latex模板学习记录

写在前面: 本次文章仅仅作为个人学习记录,不具备教程作用。 作者名称如何添加: 如果我们想添加多个作者的时候,因为我的latex模板只有一个作者;所以我一开始直接添加的。但是这样,会被以为一个作者。正确…

基于Docker的Kafka分布式集群

目录 1. 说明 2. 服务器规划 3. docker-compose文件 kafka{i}.yaml kafka-ui.yaml 4. kafka-ui配置集群监控 5. 参数表 6. 测试脚本 生产者-异步生产: AsyncKafkaProducer1.py 消费者-异步消费: AsyncKafkaConsumer1.py 7. 参考 1. 说明 创建一个本地开发环境所需的k…