前言
首先準(zhǔn)備好工具。下載好最新的VMware Workstation,CentorOS 7運(yùn)行Linux,建議Linux桌面標(biāo)準(zhǔn)版,且創(chuàng)建好一個(gè)用戶
一、 模板虛擬機(jī)Hadoop100環(huán)境準(zhǔn)備
安裝模板虛擬機(jī)。IP地址192.168.150.100(自定義)、主機(jī)名稱hadoop100、內(nèi)存4G、硬盤50G,嘎嘎重要,一步一步來完成
1. 改為靜態(tài)IP
-
vim /etc/sysconfig/network-scripts/ifcfg-ens33
進(jìn)入配置文件(想不起來用tab
鍵查找) - 更改內(nèi)容示例如下(最后的IP地址等依照自身情況做更改):
BOOTPROTO="static"
…IPADDR=192.168.150.100
GATEWAY=192.168.150.2
DSN1=192.168.150.2
2. 建立主機(jī)名映射
- Linux系統(tǒng)
進(jìn)入配置文件vim /etc/hosts
,加上主機(jī)名及其對(duì)應(yīng)IP地址
或者echo "192.168.150.100 hadoop100" >> /etc/hosts
- 再進(jìn)windows系統(tǒng)
C:\Windows\System32\drivers\etc
同樣修改hosts
文件
如果主機(jī)名不是hadoop100可通過
echo "hadoop100" > /etc/hostname
來修改,reboot
重啟即可,如不想重啟就執(zhí)行hostnamectl
并新開一個(gè)終端
3. 遠(yuǎn)程連接
ssh root@主機(jī)名
遠(yuǎn)程連接Linux系統(tǒng)
下載Xshell或者finalshell或者windows終端,本文使用的是windows終端
檢查網(wǎng)絡(luò)是否連接
ping www.csdn.com
4. 安裝軟件包
yum install -y epel-release
Extra Packages for Enterprise Linux是為“紅帽系”的操作系統(tǒng)提供額外的軟件包
5. 關(guān)閉防火墻及其開機(jī)自啟
- 關(guān)閉防火墻:
systemctl stop firewalld
- 關(guān)閉開機(jī)自啟:
systemctl disable firewalld.service
6. 添加root權(quán)限(后面選擇root用戶登錄的話可以不修改)
-
root
用戶vim /etc/sudoers
第91行加上該用戶名 ALL=(ALL) NOPASSWD: ALL
,由于是只讀文件,退出時(shí)wq!
或者
將用戶usermod -g wheel 該用戶名
添加到wheel組中,加上NOPASSWD
即可
7. 在/opt 目錄下創(chuàng)建文件夾
- 創(chuàng)建文件夾
mkdir /opt/module
mkdir /opt/software
- 修改所有者、所屬組(后面選擇root用戶登錄的話可以不修改)
chown ygy:ygy /opt/module
chown ygy:ygy /opt/software
- 最后
ll
查看修改情況
8. 卸載虛擬機(jī)自帶的openJDK
為什么要卸載openJDK?
是因?yàn)楝F(xiàn)在很多公司都用JDK,開發(fā)項(xiàng)目需要統(tǒng)一的標(biāo)準(zhǔn),而且對(duì)于一些一直用JDK,對(duì)openJDK不是特別了解的朋友來說,openJDK不用為好,畢竟和官網(wǎng)JDK稍微不太一樣,難免在開發(fā)中遇到一些問題,這樣會(huì)大大增加項(xiàng)目的不可控風(fēng)險(xiǎn)
- 先檢查虛擬機(jī)是否自帶了JDK:
rpm -qa | grep -i java
- 一鍵刪除操作:
rpm -qa | grep -i java | xargs -n1 rpm -e --nodeps
解釋:
rpm -qa 查詢安裝的所有rpm軟件包
grep -i 忽略大小寫
xargs -n1 表示每次只傳遞一個(gè)參數(shù)
rpm -e --nodeps 忽略依賴關(guān)系強(qiáng)制刪除軟件
9. 重啟虛擬機(jī)
# 重啟
reboot
沒有改好就再改,重啟到改好為止??
二、克隆虛擬機(jī)
利用模板機(jī)hadoop100,克隆三臺(tái)虛擬機(jī)Hadoop102、103、104(選擇完整克隆),注意在克隆時(shí)要使hadoop100關(guān)機(jī)
對(duì)于每一臺(tái)虛擬機(jī)(按照上面的方法)
- 修改靜態(tài)IP地址
- 修改主機(jī)名字
- 查看
/etc/hosts
文件內(nèi)是否寫入IP地址及對(duì)應(yīng)的主機(jī)名 -
reboot
重啟后檢查主機(jī)名是否修改成功、是否ping
的通(聯(lián)網(wǎng)) - 挨個(gè)遠(yuǎn)程登錄試試看
三、在hadoop102上安裝JDK&hadoop
以下操作在root用戶下,無需安裝包即可下載
1. 安裝JDK
- 進(jìn)入software文件夾
cd /opt/software
,執(zhí)行
wget --no-check-certificate https://repo.huaweicloud.com/java/jdk/8u151-b12/jdk-8u151-linux-x64.tar.gz
- 下載完畢后,解壓下載的JDK1.8安裝包
tar -zxvf jdk-8u151-linux-x64.tar.gz -C /opt/module/
- 為了方便,重命名
mv jdk1.8.0_151/ java8
- 配置Java環(huán)境變量,
vim /etc/profile.d/my_env.sh
寫入
#JAVA_HOME
export JAVA_HOME=/opt/module/java8
export PATH=$PATH:$JAVA_HOME/bin
- 刷新當(dāng)前的shell環(huán)境
source /etc/profile
- 最后查看是否成功安裝
java -version
2. 安裝hadoop3.3.6
- 回到
/opt/software
下載安裝包,執(zhí)行
wget --no-check-certificate https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
- 解壓
tar -zxvf hadoop-3.3.6.tar.gz -C /opt/module
- 改名
mv hadoop-3.3.6/ hadoop
- 配置環(huán)境變量,進(jìn)入配置文件
vim /etc/profile.d/my_env.sh
寫入
#HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
- 刷新當(dāng)前的shell環(huán)境
source /etc/profile
- 最后查看是否成功安裝
hadoop
其中重要目錄:
- bin 目錄:存放對(duì) Hadoop 相關(guān)服務(wù)( HDFS,YARN)進(jìn)行操作的腳本
- etc 目錄: Hadoop 的配置文件目錄,存放 Hadoop 的配置文件
- lib 目錄:存放 Hadoop 的本地庫(kù)(對(duì)數(shù)據(jù)進(jìn)行壓縮解壓縮功能)
- sbin 目錄:存放啟動(dòng)或停止 Hadoop 相關(guān)服務(wù)的腳本;share 目錄:存放 Hadoop 的依賴 jar 包、 文檔和官方案例
總結(jié)
模板機(jī)一定要按照步驟做好準(zhǔn)備,避免遺漏,否則一臺(tái)一臺(tái)改超級(jí)麻煩。
GNU Wget(常常簡(jiǎn)稱為wget)是一個(gè)網(wǎng)絡(luò)上進(jìn)行下載的簡(jiǎn)單而強(qiáng)大的自由軟件,其本身也是GNU計(jì)劃的一部分。它的名字是"World Wide Web" 和 "Get"的結(jié)合,同時(shí)也隱含了軟件的主要功能。目前它支持HTTP、HTTPS,月以及FTP這三個(gè)常見的的TCP/IP協(xié)議下載。文章來源:http://www.zghlxwxcb.cn/news/detail-717116.html
到這里,你肯定搭建好了hadoop運(yùn)行環(huán)境,磨刀不誤砍柴工,終于要開始學(xué)習(xí)了,下一篇將帶來Hadoop的運(yùn)行模式。文章來源地址http://www.zghlxwxcb.cn/news/detail-717116.html
到了這里,關(guān)于【大數(shù)據(jù)】hadoop運(yùn)行環(huán)境搭建(搭建如此簡(jiǎn)單)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!