大数据学习的第三天

news/2024/9/23 9:50:37/

文章目录

  • 学习大数据命令的方式
    • 查看文件
    • 拷贝文件的方式
    • 添加数据的方式
  • 出现了问题
    • 移动文件
  • hadoop工作流程和工作机制的方式
    • namenode
    • datanode
    • secondarynamenode(主节点)

学习大数据命令的方式

查看文件

hadoop fs -cat /test/2.txt

下载文件

 hadoop fs -get -f /test/2.txt

-f 覆盖文件
-p 保留访问时间

拷贝文件的方式

在这里插入图片描述

hadoop fs -cp /test/2.txt /itcast

-f 覆盖文件

添加数据的方式

hadoop fs -appendToFile /test/3.txt 4.txt /itcast/2.txt

出现了问题

java.io.IOException: Failed to replace a bad datanode on the existing pipeline due to no more good datanodes being available to try. (Nodes: current=[DatanodeInfoWithStorage[192.168.126.159:9866,DS-ace40f67-a4fa-424c-afad-677c5a40ff0f,DISK], DatanodeInfoWithStorage[192.168.126.160:9866,DS-54ad354f-7255-411a-

先hdfs-site.xml中添加文件

   <property><name>dfs.client.block.write.replace-datanode-on-failure.policy</name><value>NEVER</value></property>

这个问题没有解决我们先看下一个

移动文件

hadoop fs -mv /test/name.txt /test02/

hadoop工作流程和工作机制的方式

namenode

作用: 维护管理目录结构,文件存储,访问权限
通过内存和磁盘管理数据
存储元数据,并不是存储实际数据
给定指定位置块的位置
不持久化数据的方式

datanode

负责具体的数据模块存储
负责最后数据存储的方式

secondarynamenode(主节点)

负责 配合主节点进行元数据整合


http://www.ppmy.cn/news/1433821.html

相关文章

class094 贪心经典题目专题6【左程云算法】

class094 贪心经典题目专题6【左程云算法】 前言版权推荐class094 贪心经典题目专题6最后 前言 2024-4-23 14:01:48 以下内容源自《【左程云算法】》 仅供学习交流使用 版权 禁止其他平台发布时删除以下此话 本文首次发布于CSDN平台 作者是CSDN日星月云 博客主页是https://…

M - 上帝造题的八分钟(数位dp,dfs—dp,****)

链接&#xff1a;登录—专业IT笔试面试备考平台_牛客网 来源&#xff1a;牛客网 我们称一个数为 fufu 数&#xff0c;当且仅当一个数满足下述性质&#xff1a;它的数位中有至少 333 个相邻的数字 333&#xff0c;且数字 000 的个数与数字 111 的个数相差至少为 111 的正整数…

C语言实现双人贪吃蛇项目(基于控制台界面)

一.贪吃蛇 贪吃蛇是一款简单而富有乐趣的游戏&#xff0c;它的规则易于理解&#xff0c;但挑战性也很高。它已经成为经典的游戏之一&#xff0c;并且在不同的平台上一直受到人们的喜爱和回忆。 二.贪吃蛇的功能 游戏控制&#xff1a;玩家可以使用键盘输入设备来控制蛇的移动方…

机器学习--第六次课

前言 先讲课,大概的重点是回归和梯度下降!!! 先回顾一手,pr曲线啥的 正文 回归和分类 回归简单来说就是输出一个数值,就是回归问题,例如预测明天的空气指数,而分类问题就是做选择题 ,也就是,分类,那么回归为啥叫回归呢?可以理解为希望输出的数字回归到真实值附近.他们虽然…

安全小课堂丨什么是暴力破解?如何防止暴力破解

什么是暴力破解&#xff1f; 暴力破解也可称为穷举法、枚举法&#xff0c;是一种比较流行的密码破译方法&#xff0c;也就是将密码进行一一推算直到找出正确的密码为止。比如一个6位并且全部由数字组成的密码&#xff0c;可能有100万种组合&#xff0c;也就是说最多需要尝试10…

一个基于 Vue.js 实现的简单增删改查(CRUD)案例

以下是一个基于 Vue.js 实现的简单增删改查&#xff08;CRUD&#xff09;案例&#xff0c;使用了 Vue CLI 创建项目&#xff0c;并假设你已经安装了 Vue CLI。这个案例将展示如何创建一个简单的待办事项列表&#xff08;Todo List&#xff09;&#xff0c;实现添加、删除、编辑…

项目开发的详细步骤(精华版)

项目开发是指从项目启动到项目交付的全过程&#xff0c;涵盖了需求分析、设计、编码、测试、部署等多个环节。以下为项目开发的详细步骤&#xff1a; 1. 项目启动与规划 项目立项 商业论证&#xff1a;分析项目投资回报率、风险、市场前景等&#xff0c;确定项目价值和可行性…

Element Plus CDN时间选择器英文转中文

本文主要介绍Element Plus时间选择器如何把英文转中文 直接上代码 <link rel="stylesheet" href="element-plus@1.0.2/index.css"> <script src="element-plus@1.0.2/index.js"></script> <script src="element-plus…