Hadoop-001-本地虚拟机环境搭建

ops/2024/11/1 1:56:04/

一、安装VMware

官方下载VMware: https://vmware.mdsoft.top/?bd_vid=5754305114651491003

二、下载镜像文件

阿里云镜像仓库: https://mirrors.aliyun.com/centos/
本文档使用 CentOS-7-x86_64-DVD-1810-7.6.iso 搭建虚拟机

三、搭建虚拟机

1、编辑网段

打开VMware,进入虚拟网络编辑器,按照如图所示修改下网段
在这里插入图片描述
在这里插入图片描述

2、新建虚拟机

创建虚拟机hadoop-1,期间可以增加一个用户, root用户名密码和添加的账号密码一致
在这里插入图片描述

3、克隆虚拟机

通过克隆虚拟机再创建2个克隆的时候选择完整克隆,其他都默认下一步即可
在这里插入图片描述

4、调整内存

克隆完成后,有三个相同配置的虚拟机,可以将hadoop-1节点的内存设置大一些, 本案例设置4G,另外两个节点设置2G,到这里三台机器就创建出来了
在这里插入图片描述

5、修改节点IP

修改三台节点为固定IP

# 修改主机名
hostnamectl set-hostname hadoop-1# 修改IP地址
vim /etc/sysconfig/network-scripts/ifcfg-ens33BOOTPROTO="static"  #协议改为static
#添加IP配置
#增加子网掩码
IPADDR="192.168.88.101" 
NETMASK="255.255.255.0" 
GATEWAY="192.168.88.2"
DNS1="192.168.88.2"# 重启网卡
systemctl stop network
systemctl start network
或者  
systemctl restart network同样操作启动hadoop-2, hadoop-3,然后
修改hadoop-2主机名为 hadoop-2,设置IP为 192.168.88.102
修改hadoop-3主机名为 hadoop-3,设置IP为 192.168.88.103

hadoop-1节点配置如下图所示
在这里插入图片描述

6、配置主机名映射

本地Windows电脑修改好hosts文件添加以下内容 (C:\Windows\System32\drivers\etc路径下)

192.168.88.101 hadoop-1
192.168.88.102 hadoop-2
192.168.88.103 hadoop-3

三台Linux机器修改hosts文件,每台节点都加下(etc/hosts), 使用SCP命令复制也可以

192.168.88.101 hadoop-1
192.168.88.102 hadoop-2
192.168.88.103 hadoop-3

7、配置SSH免密登录

①在每一台机器都执行下

ssh-keygen -t rsa -b 4096

②在每一台机器都执行下

ssh-copy-id hadoop-1
ssh-copy-id hadoop-2
ssh-copy-id hadoop-3

③执行完后即可实现免密互通
④三个节点都需要创建hadoop用户,并配置免密登录

useradd hadoop
passwd hadoop   
# 密码设置000000su hadoop
ssh-keygen -t rsa -b 4096
ssh-copy-id hadoop-1
ssh-copy-id hadoop-2
ssh-copy-id hadoop-3

8、配置JDK环境

①下载JDK
jdk-8u421-linux-x64.tar.gz

②上传JDK
上传文件到远程服务器/opt 目录下,可视化工具直接拖拽也可以上传

scp C:\Users\zhangheqiang\Downloads\jdk-8u421-linux-x64.tar.gz root@192.168.88.101:/opt

③解压JDK
进入/opt 目录,解压jdk文件,配置软连接

cd /opt
tar -xzvf jdk-8u421-linux-x64.tar.gz
ln -s opt/jdk1.8.0_421/ /opt/jdk

④配置环境变量

配置环境变量,编辑文件
vim /etc/profile添加下面内容,保存退出
export JAVA_HOME=/opt/jdk
export PATH=$JAVA_HOME/bin:$PATH加载配置文件
source etc/profile验证生效
java -version
javac -version

在这里插入图片描述

⑤到这里配置好了hadoop-1的jdk环境, hadoop-2和hadoop-3也配置下

登录hadoop-1, 使用scp命令将已安装jdk的文件复制到要安装的服务器
cd /opt
scp -r jdk1.8.0_421 hadoop-2:`pwd`/
scp -r jdk1.8.0_421 hadoop-3:`pwd`/JDK复制后, 两台机器都配置环境变量,这里介绍另一种方式
sudo sh -c "echo 'export JAVA_HOME=/opt/jdk' >> /etc/profile"
sudo sh -c "echo 'export PATH=$JAVA_HOME/bin:$PATH' >> /etc/profile"
source /etc/profile验证生效
java -version
javac -version

9、关闭防火墙

三台机器都执行下
systemctl stop firewalld
systemctl disable firewalld

10、关闭SELinux

三台机器都执行下
vim /etc/sysconfig/selinux将SELINUX=enforcing 改为
SELINUX=disabled
保存退出重启虚拟机
init 6   :重启
init 0   :关机

11、修改时区配置自动同步时间

以下操作三台虚拟机都需要执行

安装ntp
yum install -y ntp更新时区
rm -f /etc/localtime;sudo ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime同步时间
ntpdate -u ntp.aliyun.com开启ntp服务设置自动重启
systemctl start ntpd
systemctl enable ntpd

或者简单先设置时区的命令(推荐第一种)

列出可用时区
timedatectl list-timezones设置上海时区
sudo timedatectl set-timezone Asia/Shanghai查看当前时区
timedatectl

至此前期工作已经配置完成, 建议关机后, 给每台虚拟机打个快照


http://www.ppmy.cn/ops/129994.html

相关文章

网站安全,WAF网站保护暴力破解

雷池的核心功能 通过过滤和监控 Web 应用与互联网之间的 HTTP 流量,功能包括: SQL 注入保护:防止恶意 SQL 代码的注入,保护网站数据安全。跨站脚本攻击 (XSS):阻止攻击者在用户浏览器中执行恶意脚本。暴力破解防护&a…

ETF申购赎回指南:详解注意事项与低费率券商推荐!

​ETF 申购&赎回 ETF申购赎回是个啥业务? 01 ETF申购、赎回是一种交易委托方式,指投资者通过申购方式(买入方向)获得ETF份额,通过赎回的方式(卖出方向)换掉/卖出ETF份额。ETF申购,通常是通过一篮子成…

大数据导论第五章作业

第五章 作业 2、请阐述数据采集的三大要点。 答:数据采集主要包括全面性、多维性、高效性三个要点 ①全面性。全面性是指数据最足够具有分析价值、数据面足够支撑分析需求。 ②多维性。数据采集必须能够灵活、快速自定义数据的多种属性和不同类型,从而满足不同…

传统数据仓库升级版:云数据仓库!

随着公司业务拓展,数据爆炸性增长,数据驱动的见解已成为决策过程中关键指标。对公司来说,怎么选择存储所有这些信息的简单方法并运行必要的数据分析以获得有用的见解变得更加重要。 在过去的50多年里,传统的本地数据仓库一直是一…

AcWing 1069 凸多边形的划分 区间dp + 高精度

代码 #include <bits/stdc.h>using namespace std;const int N 55, M 35;typedef long long LL;int n; LL temp[M], w[N]; LL f[N][N][M];void mul(LL a[], LL b) {LL t 0;for (int i 0; i < M; i ){t a[i] * b;a[i] t % 10;t / 10;} }void add(LL a[], LL b[…

设计一个灵活的RPC架构

RPC架构 RPC本质上就是一个远程调用&#xff0c;需要通过网络来传输数据。传输协议可以有多种选择&#xff0c;但考虑到可靠性&#xff0c;一般默认采用TCP协议。为了屏蔽网络传输的复杂性&#xff0c;需要封装一个单独的数据传输模块用来收发二进制数据&#xff0c;这个单独模…

【Linux网络】传输层协议UDP与TCP

W...Y的主页 &#x1f60a; 代码仓库分享 &#x1f495; 目录 传输层 再谈端口号 ​编辑 端口号范围划分 认识知名端口号(Well-Know Port Number) netstat pidof UDP协议 UDP协议端格式 UDP的特点 面向数据报 UDP的缓冲区 UDP使用注意事项 基于UDP的应用层协议…

01,http 协议

1 &#xff0c;http 协议 &#xff1a;介绍 1 &#xff0c;http &#xff1a;是什么 Hyper Text Transfer Protocol &#xff1a;超文本传输协议 2 &#xff0c;传输内容 &#xff1a;文本 1 &#xff0c;内容 &#xff1a;      纯文本    2 &#xff0c;特殊 &#xf…