HDFS和HBase跨集群数据迁移 源码

server/2024/11/13 9:39:53/

hadoop_distcp_0">HDFS集群间数据迁移(hadoop distcp)

hadoop distcp \
-pb \
hdfs://XX.14.36.205:8020/user/hive/warehouse/dp_fk_tmp.db/ph_cash_order \
hdfs://XX.18.32.21:8020/user/hive/warehouse/dp_fksx_mart.db/

在这里插入图片描述

hbase_ExportSnapshot_10">HBase集群间数据(hbase ExportSnapshot)

/usr/local/fqlhadoop/hbase/bin/hbase org.apache.hadoop.hbase.snapshot.ExportSnapshot \
-Dmapreduce.job.name=ExportSnapshot-portrait_info_fql_20241106 \
-Dmapreduce.job.queuename=lx_realtime \
-Dsnapshot.export.skip.tmp=true \
-Dmapreduce.map.memory.mb=4096 \
-Dmapreduce.map.java.opts=-Xmx3686m \
-overwrite \
-snapshot snapshot_portrait_info_fql_20241106 \
-copy-from hdfs://11.portraitszl.hbase.fql.com:8020/hbase \
-copy-to hdfs://1.compareportrait.hbase.fql.com:8020/hbase \
-mappers 150 \
-bandwidth 100

在这里插入图片描述


http://www.ppmy.cn/server/140868.html

相关文章

python opencv灰度变换

灰度变换 灰度变换和二值化的区别: 灰度变换是调整调整图像的灰度动态范围或图像对比度二值化是将图像的每个像素点调至0或255,只呈现白色或黑色 1.灰度化处理 图片的灰度化:将一个像素点的三个颜色变量相等,RGB,此…

WPF MVVM入门系列教程(三、数据绑定)

本文主要介绍WPF的数据绑定(Data Binding)功能,如果你已经熟悉本文的内容,可以跳过并直接阅读后面的文章。 什么是数据绑定 我们先来看一下MSDN上的说明: 数据绑定是在应用 UI 与其显示的数据之间建立连接的过程。 如…

MATLAB中,clear的使用方法

在MATLAB中,clear 命令是一个非常重要的工具,用于管理工作空间中的变量。其主要功能是清除变量,以帮助用户保持环境的整洁并避免潜在的命名冲突。以下是 clear 命令的详细使用方法和相关信息。 1. 基本用法 清除所有变量:clear此命令会清除当前工作空间中的所有变量。这意味…

[java][JDK]JDK8新特性

使用匿名内部类存在的问题 当需要启动一个线程去完成任务时,通常会通过 Runnable 接口来定义任务内容,并使用 Thread 类来启动该线程。 传统写法,代码如下: public class Demo01LambdaIntro {public static void main(String[] args) {new …

swagger、Postman、Test测试都能过,代码没问题但项目仍然不成功

swagger、Postman、Test测试都能过,代码没问题但项目仍然不成功 前端缓存问题!!!!!!!!!!!! swagger、Postman、test测试…

【GCN】 代码详解 (1) 如何运行【pytorch】可运行版本

Graph Convolutional Networks 代码详解 前言0.引言1.环境配置2. 代码的运行2.1 报错处理2.2 运行结果 3.总结 前言 在前文中,已经对图卷积神经网络(Graph Convolutional Neural Networks, GCN)的理论基础进行了深入探讨。接下来的章节将会进…

Hive中查看字段中是否包含某些字符串的函数

CREATE TABLE employee (name STRING,age INT );INSERT INTO employee VALUES(Alice, 25),(Bob, 30),(Charlie, 35),(David, 40); 首先我们在hive中创建表插入数据进行测试 方案一:like select * from employee where name like %i%; #返回name中包含i的数据 li…

linux盘扩容缩容

这里写目录标题 文件格式介绍问题:当根盘满了过后怎么办?解决方式: Xfs文件格式缩容扩容1. 备份2. 卸载home3. 缩容home(home盘为xfs文件格式)4. 扩容 /5. 恢复home备份 Ext4文件格式缩容扩容1. 备份(可选&…