大数据笔记之 Hadoop 常用 Shell 命令(一)

embedded/2024/10/18 12:27:05/

文章目录

  • 前言
  • 一、HDFS上的操作
    • 1.1 查看文件或文件夹
    • 1.2 修改文件或目录权限
    • 1.3 创建或删除文件夹
    • 1.4 移动或创建文件
    • 1.5 信息统计
    • 1.6 设置 hdfs 中文件的副本数量
  • 二、在本地上传或下载的操作
    • 2.1 从本地上传文件到HDFS
    • 2.2 从HDFS下载文件到本地
  • 总结


前言

前无言


一、HDFS上的操作

操作HDFS上的shell命令,与Linux命令使用方法类似

1.1 查看文件或文件夹

shell"># -ls 显示目录信息
hdfs dfs -ls /# 显示文件内容
hdfs dfs -cat /tmp/k.txt# 显示文件末尾 1kb 的数据
hdfs dfs -tail /tmp/x.txt

1.2 修改文件或目录权限

shell"># 修改文件或目录权限
hadoop fs -chmod 777 /a.txt# 修改文件或目录所有者和所属的组
hadoop fs -chown hadoop:hadoop /a# 修改文件或目录所属组
hadoop fs -chgrp hadoop /a.txt

1.3 创建或删除文件夹

shell"># 创建文件夹
hdfs dfs -mkdir /a# 递归创建文件夹
hdfs dfs -mkdir -p /a/b/c# 删除文件
hdfs dfs -rm /a/b/k.txt# 递归删除目录及目录里的内容(慎用)
hdfs dfs -rm -r /a

1.4 移动或创建文件

shell"># 移动文件
hdfs dfs -mv /a/k.txt /b# 创建文件
hdfs dfs -touch /m/w.txt

1.5 信息统计

shell"># 统计文件夹的大小信息
hdfs dfs -du -s -h /a
hdfs dfs -du -h /a

1.6 设置 hdfs 中文件的副本数量

shell">hdfs dfs -setrep 5 /a/k.txt

二、在本地上传或下载的操作

2.1 从本地上传文件到HDFS

shell"> # 从本地剪切粘贴到HDFS
hdfs dfs -moveFromLocal tmp.txt /tmp# 从本地文件系统中拷贝文件到HDFS上去
hdfs dfs -copyFromLocal tmp.txt /tmp# 从本地文件系统中拷贝文件到HDFS上去(常用)hdfs dfs -put tmp.txt /tmp# 追加一个文件到已经存在的文件末尾
hdfs dfs -appendToFile tmp.txt /tmp/b.txt

2.2 从HDFS下载文件到本地

shell"># 从HDFS拷贝到本地
hdfs dfs -copyToLocal /tmp/b.txt /home# 等同于copyToLocal (常用)
hdfs dfs -get /tmp/b.txt /home

总结

没了。。。


http://www.ppmy.cn/embedded/127203.html

相关文章

mysql数据备份

为什么写这个话题,原因很简单,在实现业务逻辑的时候很多更新操作没有校验where后面的条件,导致整个表的数据被更新了,工作这么多年了,从入行到现在还在不时的发生,当然避免的方式有很多,但是难免…

RK3588 buildroot 制作的系统增加 docker 支持

RK3588 buildroot 制作的系统增加 docker 支持 简介 使用 ubuntu 系统使用一个指令就可以安装 docker ,因为工作需要,系统不能使用 ubuntu 而只能使用buildroot 制作系统,下面我们就一起看下如果在 buildroot 系统上安装 docker 安装 docker 前的内核配置 运行 docker 需要…

【设计模式】装饰者模式

装饰者模式 角色和buff进行解释 步骤 角色和Buff共有一个Component,理解为有同一个操作,给予Buff里面可以填充角色。角色有一个基类,Buff有一个基类,因为有多种Buff 理解 不是常规理解上的给角色填装Buff,角色作为…

axios的使用

在 Vue 项目中,封装 Axios 并实现加密、重复请求优化、请求取消、页面切换时取消未完成的请求、以及区分上传和下载操作是非常常见的需求。下面将逐一讲解这些需求的实现方式。 1. Axios 的基本封装 首先,我们可以将 Axios 封装到一个服务层中&#xf…

鸿蒙--播放器状态控制

各个页面共享同一个播放状态,而且可以互相控制,如果传递来传递去会非常的麻烦,但是他们都是Tabs组件内的,我们在index页面提供一个状态,在各个组件接收即可 创建两个子组件,一个是播放控制的子组件,一个是背景播放的子组件 背景播放组件

【Linux】为什么创建目录文件,硬链接数是2;创建普通文件时,硬链接数是1?(超详细图文解答)

前言 大家好吖,欢迎来到 YY 滴Linux系列 ,热烈欢迎! 本章主要内容面向接触过C的老铁 主要内容含: 欢迎订阅 YY滴C专栏!更多干货持续更新!以下是传送门! YY的《C》专栏YY的《C11》专栏YY的《Lin…

SQL注入基础速通

<aside> &#x1f4a1; SQL速通 </aside> 注入点类型&#xff08;数字型&#xff0c;字符型&#xff09; 数字型&#xff1a;1 字符型&#xff1a;’ 和 ‘’ **数字型&#xff1a;?id1 and 11 ?id1 and 12 //报错为数字型字符型&#xff1a;?…

应用UX体验标准

1、应用导航 标准编号 2.1.1.1 系统返回 标准描述 所有界面都可以执行系统返回操作。 除一级界面外&#xff0c;所有全屏界面均需要提供返回/关闭/取消按钮。(全屏沉浸式场景除外) 测试方法 使用侧边返回手势&#xff0c;验证当前应用界面是否可以执行系统返回操作。检查…