国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Hadoop的偽分布式安裝方法

這篇具有很好參考價值的文章主要介紹了Hadoop的偽分布式安裝方法。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

實驗環(huán)境:

操作系統(tǒng):Linux (Ubuntu 20.04.5)

Hadoop版本:3.3.2

JDK版本:1.8.0_162

hadoop與jdk的安裝包可詳見博客中:

https://blog.csdn.net/weixin_52308622/article/details/131947961?spm=1001.2014.3001.5501

(1)創(chuàng)建 hadoop 用戶(使用 /bin/bash 作為 Shell)、設(shè)置密碼(建議簡單)并為其添加管理員權(quán)限。具體命令如下:

sudo useradd -m hadoop -s /bin/bash

sudo passwd hadoop

sudo adduser hadoop sudo

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

?(2)切換到 hadoop 用戶

sudo?su - hadoop

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

(3)安裝 SSH server,并測試登陸。

sudo?apt-get install openssh-server

ssh localhost

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

??在執(zhí)行命令時,注意要按照指示輸入 yes,再輸入 hadoop?用戶的密碼。在執(zhí)行結(jié)束后,即可通過 SSH 登陸到本機。由于 hadoop 需要通過 SSH 來控制集群,所以需要對 SSH 設(shè)置免密登陸,即允許名稱節(jié)點可以無密碼登錄集群中的所有機器。

(4)設(shè)置SSH 免密登錄,利用 ssh-keygen 生成密鑰并將秘鑰加入到授權(quán)中

exit ????????????????????????#退出剛才的ssh localhost

cd ~/.ssh/ ???????????????????#若沒有該目錄,請先執(zhí)行一次ssh localhost

ssh-keygen -t rsa ?????????????#會有提示,都按回車就可以

cat ./id_rsa.pub >> ./authorized_keys ?????#加入授權(quán)

在執(zhí)行 ssh-keygen -t rsa 命令時,每次按回車鍵即可。此時免密設(shè)置完成,使用 ssh localhost 進行驗證。

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

(5)安裝 Java環(huán)境。Hadoop?3.3.2需要JDK版本在1.8及以上。JDK 1.8安裝方式多種多樣。這里采取手動安裝,需要自行下載 JDK1.8 的安裝包。將 JDK 安裝包放在 Downloads 目錄下,并且創(chuàng)建存放 JDK 文件的目錄。如果在切換?Downloads 目錄時出現(xiàn)找不到目錄,可以重啟系統(tǒng),手動選擇進入 hadoop?用戶。

cd?/usr/lib

sudo mkdir jvm ???#創(chuàng)建/usr/lib/jvm目錄用來存放JDK文件

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

cd ~/Downloads?? (Ubuntu為中文版則為cd ~/下載)

sudo tar -zxvf ./jdk-8u162-linux-x64.tar.gz -C /usr/lib/jvm ?

#把JDK文件解壓到/usr/lib/jvm目錄下

解壓:

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

(6)查看 JDK 是否解壓到 jvm 文件夾中。

cd?/usr/lib/jvm

ls

解壓成功:

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

(7)設(shè)置 java 環(huán)境變量使其生效,并查看版本號驗證是否安裝成功。

vim ~/.bashrc

上述命令使用vim編輯器打開了hadoop這個用戶的環(huán)境變量配置文件.bashrc,請在這個文件的開頭位置插入如下內(nèi)容:

export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162

export JRE_HOME=${JAVA_HOME}/jre

export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib

export PATH=${JAVA_HOME}/bin:$PATH

保存.bashrc文件并退出vim編輯器。然后,繼續(xù)執(zhí)行如下命令讓.bashrc文件的配置立即生效:

source ~/.bashrc

這時,可以使用如下命令查看是否安裝成功:

java -version

插入內(nèi)容:

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

至此,成功安裝了Java環(huán)境。下面將進入Hadoop的安裝。?

(8)下載 hadoop-3.3.2 至 Downloads 目錄,并將Hadoop安裝至/usr/local/中。

sudo tar -zxvf ~/Downloads/hadoop-3.3.2.tar.gz -C /usr/local #解壓到/usr/local中(/下載)

cd /usr/local/

sudo mv ./hadoop-3.3.2/ ./hadoop ???????#將文件夾名修改為hadoop

sudo chown -R hadoop ./hadoop ????????#修改文件權(quán)限

Hadoop解壓后即可使用。輸入如下命令來檢查Hadoop是否可用,成功則會顯示Hadoop版本信息:

cd?/usr/local/hadoop

./bin/hadoop version

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

?在執(zhí)行上述命令的過程中,需要注意相對路徑絕對路徑

(9)Hadoop偽分布式配置。對core-site和hdfs-site兩個配置文件分別進行修改。

1)cd /usr/local/hadoop/etc/hadoop/

2)vim core-site.xml?????#使用vim打開配置文件core-site.xml并進行修改

將 core-site.xml 中的配置修改為如下內(nèi)容:

<configuration>

????<property>

????????<name>hadoop.tmp.dir</name>

????????<value>file:/usr/local/hadoop/tmp</value>

????????<description>Abase for other temporary directories.</description>

????</property>

????<property>

????????<name>fs.defaultFS</name>

????????<value>hdfs://localhost:9000</value>

????</property>

</configuration>

3)vim hdfs-site.xml ????#使用vim打開配置文件hdfs-site.xml并進行修改

將 hdfs-site.xml 中的配置修改為如下內(nèi)容:

<configuration>

????<property>

????????<name>dfs.replication</name>

????????<value>1</value>

????</property>

????<property>

????????<name>dfs.namenode.name.dir</name>

????????<value>file:/usr/local/hadoop/tmp/dfs/name</value>

????</property>

????<property>

????????<name>dfs.datanode.data.dir</name>

????????<value>file:/usr/local/hadoop/tmp/dfs/data</value>

????</property>

</configuration>

將 core-site.xml 中的配置修改為如下內(nèi)容

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

將 hdfs-site.xml 中的配置修改為如下內(nèi)容

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

?(10)對NameNode進行格式化(建議:在執(zhí)行此步之前可以存快照)

cd?/usr/local/hadoop

./bin/hdfs namenode -format

成功的話,會看到“successfully formatted”的提示

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

看到“successfully formatted”的提示格式化成功

(11)開啟NameNode和DataNode守護進程。

在啟動完成后使用 jps 命令來查看是否啟動成功。若成功啟動則會列出如下進程:NameNode,?DataNode和SecondaryNameNode(如果SecondaryNameNode沒有啟動,請運行./sbin/stop-dfs.sh關(guān)閉進程,然后再次嘗試啟動)。如果沒有 NameNode 或 DataNode,那就是配置不成功,請仔細檢查之前的步驟,或通過查看啟動日志排查原因。

./sbin/start-dfs.sh

jps

?Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)

?啟動成功

若此步運行出錯,可以選擇通過日志查看出錯內(nèi)容,恢復快照改正錯誤再重新啟動進程。若 datanode 沒有啟動,可以輸入以下語句解決:

cd /usr/local/hadoop

./sbin/stop-dfs.sh ??

rm -r ./tmp

./bin/hdfs namenode -format

./sbin/start-dfs.sh

(12)安裝成功后,在 linux 瀏覽器中訪問 http://localhost:9870?來查看NameNode和DataNode信息,還可以在線查看HDFS中的文件

Hadoop的偽分布式安裝方法,分布式,hadoop,大數(shù)據(jù)文章來源地址http://www.zghlxwxcb.cn/news/detail-621438.html

到了這里,關(guān)于Hadoop的偽分布式安裝方法的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔相關(guān)法律責任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • 大數(shù)據(jù)-安裝 Hadoop3.1.3 詳細教程-偽分布式配置(Centos7)

    大數(shù)據(jù)-安裝 Hadoop3.1.3 詳細教程-偽分布式配置(Centos7)

    **相關(guān)資源:**https://musetransfer.com/s/q43oznf6f(有效期至2023年3月16日)|【Muse】你有一份文件待查收,請點擊鏈接獲取文件 1.檢查是否安裝ssh (CentOS 7 即使是最小化安裝也已附帶openssh 可跳過本步驟) 若已安裝進行下一步驟 若未安裝 請自行百度 本教程不做過多講解 2.配置ss

    2023年04月08日
    瀏覽(24)
  • Hadoop分布式安裝

    Hadoop分布式安裝

    首先準備好三臺服務(wù)器或者虛擬機,我本機安裝了三個虛擬機,安裝虛擬機的步驟參考我之前的一篇 virtualBox虛擬機安裝多個+主機訪問虛擬機+虛擬機訪問外網(wǎng)配置-CSDN博客 jdk安裝 參考文檔:Linux 環(huán)境下安裝JDK1.8并配置環(huán)境變量_linux安裝jdk1.8并配置環(huán)境變量_Xi-Yuan的博客-CSDN博

    2024年02月08日
    瀏覽(25)
  • 【大數(shù)據(jù)】Hadoop-3.3.4完全分布式安裝(包含VMware16和Ubuntu22的下載安裝及配置)、搭建、配置教程,以及Hadoop基礎(chǔ)簡介

    【大數(shù)據(jù)】Hadoop-3.3.4完全分布式安裝(包含VMware16和Ubuntu22的下載安裝及配置)、搭建、配置教程,以及Hadoop基礎(chǔ)簡介

    注:本篇文章主要涉及到: HDFS (分布式文件系統(tǒng))、 YARN (資源管理和調(diào)度框架)、以及 MapReduce (離線計算)。 以下就是本篇文章所采用的的架構(gòu) 。 (1)HDFS架構(gòu)簡述 HDFS架構(gòu)圖 注:上述的master、slave1、slave2均是主機名(結(jié)點名),可以和本篇文章不一致,但下面所有涉

    2023年04月17日
    瀏覽(21)
  • Hadoop分布式安裝部署

    Hadoop分布式安裝部署

    VMware Workstation Pro17 CentOS7 Hadoop-3.3.6 jdk1.8.0_391 事先需要在本地電腦安裝VMware,再創(chuàng)建虛擬機,并且克隆該虛擬機,使用多臺機器配合完成完全的分布式文件系統(tǒng)。本文使用三臺虛擬機搭建Hadoop。 Hadoop在安裝部署之前,需要對虛擬機進行網(wǎng)絡(luò)配置,將虛擬機的網(wǎng)絡(luò)狀態(tài)由動態(tài)修

    2024年01月23日
    瀏覽(32)
  • Hadoop分布式集群安裝

    ????????上一篇大數(shù)據(jù)文章講解了在單機上搭建Hadoop-Yarn 偽分布式集群的安裝方法,方便大家學習,真實環(huán)境不可能只有一臺機器,肯定是多節(jié)點的集群,大單位還會建設(shè)很多Hadoop集群,比如各個大部門有自己的集群,或者按熱、溫、冷來劃分建立集群,反正都是很多臺服

    2024年01月19日
    瀏覽(26)
  • Hadoop偽分布式安裝配置

    Hadoop偽分布式安裝配置

    1、添加用戶組 [root@hadoop00 ~]# groupadd hadoop 2、添加用戶并分配用戶組 [root@hadoop00 ~]# useradd -g hadoop hadoop 3、修改hadoop用戶密碼 [root@hadoop00 ~]# passwd hadoop 1、上傳系統(tǒng)安裝鏡像到虛擬機服務(wù)器的/root目錄 2、新建掛載點目錄 [root@hadoop00 ~]# mkdir /mnt/centos 3、掛載鏡像 ?????? [root@h

    2024年01月24日
    瀏覽(30)
  • hadoop偽分布式安裝部署

    hadoop偽分布式安裝部署

    首先jdk安裝完畢 jdk安裝文檔參考: Linux 環(huán)境下安裝JDK1.8并配置環(huán)境變量_linux安裝jdk1.8并配置環(huán)境變量_Xi-Yuan的博客-CSDN博客 準備好hadoop的安裝包 我的下載地址如下: We Transfer Gratuit. Envoi sécurisé de gros fichiers. 將hadoop包上傳到隨便一個目錄,但是解壓縮到/opt/ 目錄下 tar -zvxf

    2024年02月08日
    瀏覽(26)
  • 【Hadoop】安裝部署-完全分布式搭建

    【Hadoop】安裝部署-完全分布式搭建

    Hadoop是一個適合大數(shù)據(jù)的分布式存儲和計算平臺。狹義上說Hadoop就是一個框架平臺,廣義上講Hadoop代表大數(shù)據(jù)的一個技術(shù)生態(tài)圈,包括很多軟件框架。而我們的完全分布式,指的是在真實環(huán)境下,使?多臺機器,共同配合,來構(gòu)建?個完整的分布式文件系統(tǒng)。在真實環(huán)境中,

    2024年02月07日
    瀏覽(25)
  • Docker安裝Hadoop分布式集群

    Docker安裝Hadoop分布式集群

    hadoop目錄安裝在:/usr/local/hadoop-2.7.0/etc/hadoop

    2024年02月13日
    瀏覽(21)
  • Hadoop偽分布式安裝搭建教程

    Hadoop偽分布式安裝搭建教程

    安裝VMware虛擬機 下載Ubuntu 18.04鏡像,并在VMware中新建虛擬機 安裝VMware tools 搭建Hadoop偽分布式 1.安裝VMware Workstation 14 Pro版本 2.1 在VMware上方菜單欄,文件--新建虛擬機 ?2.2 默認 ?2.3 選擇稍后安裝操作系統(tǒng) 2.4 選擇Linux(L),版本 Ubuntu ? ?2.5 定義虛擬機的名稱,選擇虛擬機的

    2023年04月09日
    瀏覽(21)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包