当前位置: 首页 > news >正文

大数据基础平台搭建-(一)基础环境准备

大数据基础平台搭建-(一)基础环境准备

大数据平台系列文章:
1、大数据基础平台搭建-(一)基础环境准备
2、大数据基础平台搭建-(二)Hadoop集群搭建

目录

  • 大数据基础平台搭建-(一)基础环境准备
  • 一、硬件环境准备
  • 二、软件环境准备
  • 三、部署架构
  • 四、修改主机名和hosts文件
    • 1. 修改主机名(各服务器分别修改主机名)
    • 2. 修改hosts文件 # 添加机器ip与主机名映射
  • 五、 关闭防火墙(每台服务器都执行)
  • 六、免密登录(每台服务器都执行)
  • 七、安装Java
    • 1. 创建/usr/java(目录各服务器分别修改主机名)
    • 2. 上传JDK的安装文件
    • 3. 将安装文件同步到其它服务器的/usr/java目录下
    • 4. 安装
    • 5. 配置环境变量
    • 6. 验证java版本

一、硬件环境准备

序号IPHostName操作系统说明
1192.168.2.201CentOS7_x64
2192.168.2.202znodeCentOS7_x64Zookeeper集群
3192.168.2.203hnode1CentOS7_x64NameNode Master
4192.168.2.204hnode2CentOS7_x64NameNode Second
5192.168.2.205hnode3CentOS7_x64DataNode
6192.168.2.206hnode4CentOS7_x64DataNode
7192.168.2.207hnode5CentOS7_x64DataNode

二、软件环境准备

序号软件名称版本说明
1JDK1.8
2Hadoop3.3.4
3HBase-列式数据库
4Hive-数据仓库
5Zookeeper-

三、部署架构

在这里插入图片描述

四、修改主机名和hosts文件

1. 修改主机名(各服务器分别修改主机名)

使用hostnamectl命令修改主机名,执行该命令后立即生效,代码如下

[root@localhost ~]# hostnamectl set-hostname hnode1

其余的机器也使用hostnamectl命令修改主机名,示例如下:

[root@localhost ~]# hostnamectl set-hostname znode
[root@localhost ~]# hostnamectl set-hostname hnode1
[root@localhost ~]# hostnamectl set-hostname hnode2
[root@localhost ~]# hostnamectl set-hostname hnode3
[root@localhost ~]# hostnamectl set-hostname hnode4
[root@localhost ~]# hostnamectl set-hostname hnode5

2. 修改hosts文件 # 添加机器ip与主机名映射

[root@localhost ~]# vim /etc/hosts

192.168.2.202 znode
192.168.2.203 hnode1
192.168.2.204 hnode2
192.168.2.205 hnode3
192.168.2.206 hnode4
192.168.2.207 hnode5

五、 关闭防火墙(每台服务器都执行)

[root@hnode1 ~]# systemctl status firewalld.service
[root@hnode1 ~]# systemctl stop firewalld.service
[root@hnode1 ~]# systemctl disable firewalld.service

六、免密登录(每台服务器都执行)

## 生成密钥对
ssh-keygen -t rsa   ## 一路回车即可
## 进入.ssh目录,如果目录不存在则创建
cd ~/.ssh
## 将公钥导入至authorized_keys
cat id_rsa.pub >> authorized_keys
## 修改文件权限
chmod 700 ~/.ssh
chmod 600 authorized_keys

在node1上执行以下命令,使主节点能免密访问其他俩从节点:

## 配置主从互相免密登陆
[root@node1 ~]#cat ~/.ssh/id_rsa.pub | ssh root@znode 'cat - >> ~/.ssh/authorized_keys'
[root@node1 ~]#cat ~/.ssh/id_rsa.pub | ssh root@hnode1 'cat - >> ~/.ssh/authorized_keys'
[root@node1 ~]#cat ~/.ssh/id_rsa.pub | ssh root@hnode2 'cat - >> ~/.ssh/authorized_keys'
[root@node1 ~]#cat ~/.ssh/id_rsa.pub | ssh root@hnode3 'cat - >> ~/.ssh/authorized_keys'
[root@node1 ~]#cat ~/.ssh/id_rsa.pub | ssh root@hnode4 'cat - >> ~/.ssh/authorized_keys'
[root@node1 ~]#cat ~/.ssh/id_rsa.pub | ssh root@hnode5 'cat - >> ~/.ssh/authorized_keys'

七、安装Java

1. 创建/usr/java(目录各服务器分别修改主机名)

[root@hnode1 ~]# mkdir /usr/java

2. 上传JDK的安装文件

将jdk-8u271-linux-x64.tar.gz安装文件上传到其中一台服务器hnode1

3. 将安装文件同步到其它服务器的/usr/java目录下

[root@hnode1 java]# scp -r ./jdk-8u271-linux-x64.tar.gz root@znode:/usr/java
[root@hnode1 java]# scp -r ./jdk-8u271-linux-x64.tar.gz root@hnode2:/usr/java
[root@hnode1 java]# scp -r ./jdk-8u271-linux-x64.tar.gz root@hnode3:/usr/java
[root@hnode1 java]# scp -r ./jdk-8u271-linux-x64.tar.gz root@hnode4:/usr/java
[root@hnode1 java]# scp -r ./jdk-8u271-linux-x64.tar.gz root@hnode5:/usr/java

4. 安装

[root@hnode1 java]# tar -xzvf ./jdk-8u271-linux-x64.tar.gz

5. 配置环境变量

[root@hnode1 java]# vim /etc/profile
#SET JAVA
export JAVA_HOME=/usr/java/jdk1.8.0_271
export PATH=$JAVA_HOME/bin:$PATH
[root@ambariserver java]#source /etc/profile

6. 验证java版本

[root@hnode1 java]#java -version

※ 其它服务器也参照上述步骤4-6进行安装jdk

相关文章:

  • HEVC学习之CTU划分
  • IHRM0728 项目参数化框架
  • java微信支付v3系列——2.微信支付基本配置
  • 【JavaEE】Servlet
  • Node基础——认识Node
  • TensorFlow和Keras应如何选择?
  • 【深度思考】如何优雅的校验参数?
  • 超1.58亿人将“血拼”,超级星期六购物节即将到来
  • Mit6.006-problemSession03
  • python之环境切换问题实践总结
  • 5G通信基站对邻频C波段卫星地球站干扰的分析与处置
  • 有哪些权威的职业性格测试?职业性格测试靠谱吗?
  • 【Call for papers】SIGKDD-2023(CCF-A/数据挖掘/2023年2月2日截稿)
  • CSDN第17周周赛题解
  • Biotin-PEG-AC,Biotin-PEG-Acrylate,生物素PEG丙烯酸酯线性杂双功能PEG试剂
  • Centos7安装配置Minio
  • 【程序人生】我填写《2022年国内软件质量调查问卷》的感想
  • 基于C++实现对UNet图像分割的部署
  • 2022年全国职业院校技能大赛中职组网络安全竞赛试题B模块 —wirehark数据分析与取证results.pcap(解析教程)
  • 机器学习100天(十七):017 逻辑回归梯度下降