大数据应用开发——实时数据处理(二)

server/2024/11/19 23:27:58/

前言

大数据应用开发——实时数据采集

大数据应用开发——实时数据处理

        Flink完成Kafka中的数据消费,将数据分发至Kafka的dwd层中

        并在HBase中进行备份

大数据应用开发——数据可视化

hadoop,zookeeper,kafka,flinkhbase要开启

目录

        并在HBase中进行备份


并在HBase中进行备份

在pox.xml文件添加hbase的依赖

		<dependency><groupId>org.apache.Hbase</groupId><artifactId>hbase-client</artifactId><version>2.2.3</version></dependency>

 创建一个写入hbase的方法

public class HbaseSink implements SinkFunction<String> {@Overridepublic void invoke(String value, Context context) throws Exception {Connection connection = null;Table table = null;try{Configuration configuration = HBaseConfiguration.create();configuration.set("hbase.zookeeper.quorum", "master,slave1,slave2");configuration.set("hbase.zookeeper.property.clientPort", "2181");connection = ConnectionFactory.createConnection(configuration);TableName tableName = TableName.valueOf("user");table = connection.getTable(tableName);//O:1,12564,O,45,2024-10-26,3-MEDIUM,Clerk#000000296,1,ggle. special, final requests are against the furiously specia//L:1,41,23,62,71,40,84,77,R,O,2024-10-26,2024-10-26,2024-10-26,DELIVER IN PERSONRAILquickly. bold deposits sleep slyly. packages use slylyString[] strings = value.split(",");if (strings[0].substring(0,1).equals("O")){for (int i = 1; i < 9; i++) {Put put = new Put(Bytes.toBytes(strings[0]));put.addColumn(Bytes.toBytes("base_info"),Bytes.toBytes("info"+i),Bytes.toBytes(strings[i]));table.put(put);}}else {for (int i = 1; i < 14; i++) {Put put = new Put(Bytes.toBytes(strings[0]));put.addColumn(Bytes.toBytes("base_info"),Bytes.toBytes("info"),Bytes.toBytes(strings[i]));table.put(put);}}}finally {if(table != null){table.close();}if(connection != null){connection.close();}}}
}

PS:hbase里如果没有user表,要创建

hbase shell

create ‘表名’,‘列簇’ 

在main中将 HbaseSink 添加

		map.addSink(new HbaseSink());// execute programenv.execute("Flink Streaming Java API Skeleton");

将代码打包成.jar,放进主节点运行 


http://www.ppmy.cn/server/143321.html

相关文章

网页作业9

<!DOCTYPE html> <html lang"zh-CN"> <head><meta charset"UTF-8"><meta name"viewport" content"widthdevice-width, initial-scale1.0"><title>服务中心</title><style>* {margin:…

[前端面试]HTML AND CSS

HTML html语义化标签的理解 是什么: 在布局页面的时候&#xff0c;根据内容的结构与含义&#xff0c;选择合适的带语义的html标签 如header&#xff0c;footer&#xff0c;nav&#xff0c;article&#xff0c;main&#xff0c;aside&#xff0c;h标签等 好处&#xff1a; 增…

【国产MCU系列】-GD32F470-直接存储器访问控制器(DMA)

直接存储器访问控制器(DMA) 文章目录 直接存储器访问控制器(DMA)1、DMA介绍2、DMA寄存器列表3、DMA的传输模式与传输操作3.1 DMA的传输模式3.2 DMA的传输操作3.3 传输完成与软件清除4、DMA的中断4.1 中断标志4.2 中断异常4.3 中断错误5、固件库的DMA相关API6、DMA示例每个嵌…

nacos开启鉴权与配置加密

提示&#xff1a;文章写完后&#xff0c;目录可以自动生成&#xff0c;如何生成可参考右边的帮助文档 目录 前言 一、Nacos漏洞复现 1.1.查看配置 1.2.查看用户列表 1.3.注册新用户 二、Nacos开启鉴权 三、变更配置与信息加密 1.变更配置 2.信息加密 四、增强安全性 五、常见问…

为了数清还有几天到周末,我用python绘制了日历

日历的秘密 昨天&#xff0c;在看小侄子写作业的时候&#xff0c;发现了一个秘密&#xff1a;他在“演算纸”&#xff08;计算数学题用的草纸&#xff09;上画了非常多的日历。对此我感到了非常的困惑&#xff0c;“这是做什么的&#xff1f;” 后来&#xff0c;经过了我不懈…

【Rust中的项目管理】

Rust中的项目管理 前言Package&#xff0c;Crate&#xff0c;Module &use &#xff0c;Path通过代码示例解释 Crate&#xff0c;Module &#xff0c;use&#xff0c;Path创建一个package&#xff1a;代码组织化skin.rs 中的代码struct & enum 相对路径和绝对路径引用同…

基于C语言easyX实现的推箱子游戏

基于80x86汇编语言的推箱子游戏 一、游戏背景介绍 推箱子是一款众所周知的益智游戏&#xff0c;此游戏只有一个目标&#xff1a;将游戏中的所有箱子推到指定位置。简单易懂的游戏规则是此款游戏成功的根本原因。 此游戏具有如下特点&#xff1a;简便的操作、复杂的关卡以及层…

20241114软考架构-------软考案例15答案

每日打卡题案例15答案 15.【2016年真题】 难度&#xff1a;一般 阅读以下关于应用服务器的叙述&#xff0c;在答题纸上回答问题1至问题3。&#xff08;25分&#xff09; 【说明】 某电子产品制造公司&#xff0c;几年前开发建设了企业网站系统&#xff0c;实现了企业宣传、产品…