HDFS迁移distcp,源端数据新增,致迁移失败处理

news/2025/1/15 13:46:07/

hdfs迁移最常用的就是distcp,从老集群迁移到新集群。

distcp hdfs://xxxx源端 hdfs://xxx目标端

默认他会进行CRC校验,如果此时出现了数据新增,那么迁移一定会失败,在业务没有割接前,我们通常只是迁移历史数据,所以不需要校验,那就得加上-skipcrccheck

distcp -skipcrccheck hdfs://xxxx源端 hdfs://xxx目标端

这样他就不会去对比源端是否在迁移过程中变更,等业务交接完,停止源端,再迁移增量数据即可


在Hadoop的HDFS(分布式文件系统)中,-skipcrccheck 命令用于在读取数据时跳过CRC(循环冗余检查)检查。CRC是一种用于检测数据在存储或传输过程中是否发生变更的方法。在某些情况下,比如数据已知是正确的,或者你确定不需要CRC检查的精确性,你可能想要跳过这个步骤以加快读取速度。


http://www.ppmy.cn/news/1563332.html

相关文章

深度学习学习笔记(第29周)

目录 摘要 Abstracts 1. 概述 2. Better 2.1 Batch Normalization(批归一化) 2.2 High Resolution Classifier(高分辨率分类器) 2.3 Convolutional With Anchor Boxes(带有Anchor Boxes的卷积) 2.4…

Shader -> RadialGradient圆心渐变着色器详解

XML文件 <com.example.myapplication.MyViewxmlns:android"http://schemas.android.com/apk/res/android"android:layout_width"match_parent"android:layout_gravity"center"android:layout_height"400dp"/>自定义View代码 c…

CSS中的accent-color如何使用

前言 accent-color是CSS 2022年推出的一个新属性&#xff0c;它能修改input默认控件的颜色&#xff0c;支持的input控件元素包括复选框&#xff08;<input type"checkbox">&#xff09;、单选框&#xff08;<input type"radio">&#xff09;、…

如何选择多个视频文件

文章目录 1. 概念介绍2. 方法与细节2.1 实现方法2.2 具体细节 3. 示例代码4. 内容总结 我们在上一章回中介绍了"如何选择多个图片文件"相关的内容&#xff0c;本章回中将介绍如何选择视频文件.闲话休提&#xff0c;让我们一起Talk Flutter吧。 1. 概念介绍 我们在前…

机器学习之过拟合和欠拟合(二)

在机器学习中,过拟合和欠拟合是模型训练中常见的两种问题,它们反映了模型对数据的拟合程度及泛化能力的不足或过剩。 1. 什么是过拟合和欠拟合? 过拟合(Overfitting) 定义:模型对训练数据的学习过于深入,以至于连数据中的噪声或细节都被学到了,导致模型复杂度过高,泛…

在Alpine这小破车里塞进Nginx?

Docker和Nginx&#xff0c;这对黄金CP Docker&#xff0c;大家肯定不陌生了&#xff0c;就是那个能把应用打包成一个个标准化单元的玩意儿。想象一下&#xff0c;你把一个复杂的应用拆分成一个个小盒子&#xff0c;每个盒子就是一个独立的服务&#xff0c;这样一来&#xff0c…

【Redis】初识Redis

目录 Redis简介 Redis在内存中存储数据 Redis数据库中的应用 Redis缓存中的应用 Redis消息中间件 尾言 Redis简介 如下是Redis官网中&#xff0c;对Redis的一段描述 在这段描述中&#xff0c;我们提取如下关键要点&#xff1a; Redis主要用于在内存中存储数据Redis可…

解决winodws server iis 下的php mkdir(): Permission denied 问题

这个问题报错原因是权限不够&#xff0c;解决办法如下&#xff1a; 1.在php安装目录下&#xff0c;打开配置文件php.ini 把upload_tmp_dir 前面的分号去掉。 2.给上传的文件夹添加权限 在网站的相应目录&#xff0c;比如目录为tmp&#xff0c;添加IUSR用户&#xff0c;并给所…