国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Hadoop分布式安裝

這篇具有很好參考價(jià)值的文章主要介紹了Hadoop分布式安裝。希望對大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

首先準(zhǔn)備好三臺服務(wù)器或者虛擬機(jī),我本機(jī)安裝了三個(gè)虛擬機(jī),安裝虛擬機(jī)的步驟參考我之前的一篇

virtualBox虛擬機(jī)安裝多個(gè)+主機(jī)訪問虛擬機(jī)+虛擬機(jī)訪問外網(wǎng)配置-CSDN博客

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

jdk安裝

參考文檔:Linux 環(huán)境下安裝JDK1.8并配置環(huán)境變量_linux安裝jdk1.8并配置環(huán)境變量_Xi-Yuan的博客-CSDN博客

一臺機(jī)器配置完成jdk之后,我們將已經(jīng)解壓完成的jdk分發(fā)到另外兩臺虛擬機(jī)上

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

我們的hosts中ip和域名沒有映射

或者通過ip分發(fā),不用配置域名映射了

scp -r /usr/java/jdk1.8.0_391 192.168.137.16:/usr/java??

hosts配置,點(diǎn)擊多屏同時(shí)編輯

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

vi /etc/hosts

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

scp -r /usr/java/jdk1.8.0_391 hadoop02:/usr/java

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

分發(fā)完成之后記得其它兩臺機(jī)器的java配置一下

vi /etc/profile

export JAVA_HOME=/usr/java/jdk1.8.0_391
export PATH=$PATH:$JAVA_HOME/bin

source /etc/profile

hadoop包提前下載好,官網(wǎng)的下載速度實(shí)在太慢,我的下載地址如下:

We Transfer Gratuit. Envoi sécurisé de gros fichiers. (swisstransfer.com)

解壓縮到/usr目錄下

tar -zxvf?hadoop-2.9.2.tar.gz -C /usr

hadoop配置工作

cd /usr/hadoop-2.9.2/etc/hadoop

vi hadoop-env.sh

更改如下配置

JAVA_HOME=/usr/java/jdk1.8.0_391

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

vi core-site.xml

<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop01:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/hadoop-2.9.2/tmp</value>
</property>

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

?vi hdfs-site.xml

<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.permissions</name>
<value>true</value>
</property>

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

mv mapred-site.xml.template ?mapred-site.xml

vi?mapred-site.xml

<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

vi yarn-site.xml

<property>
<name>yarn.resourcemanager.hostname</name>
<value>hadoop01</value>
</property>
<property>
<name>yarn.nodemanager.aux-service</name>
<value>mapreduce_shuffle</value>
</property>

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

vi slaves

刪除已有的localhost

添加從節(jié)點(diǎn)域名

hadoop02

hadoop03

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

將hadoop01虛擬機(jī)上hadoop的文件分發(fā)到其它兩臺虛擬機(jī)

scp -r /usr/hadoop-2.9.2 hadoop02:/usr

scp -r /usr/hadoop-2.9.2 hadoop03:/usr

hadoop啟動(dòng)

#HADDOOP_HOME配置Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

source /ect/profile

#初始化

hdfs namenode -format

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

#一鍵啟動(dòng)之前配置好免密登錄功能,否則啟動(dòng)和停止時(shí)需要n次輸入密碼

cd /root

ssh-keygen

遇到需要輸入的直接回車即可

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

#查看.ssh目錄是否已經(jīng)生成

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

第一臺機(jī)器有known_hosts,因?yàn)槲覀冎霸诘谝慌_虛擬機(jī)上scp -r分發(fā)過文件給其他兩臺機(jī)器,所以建立過ssh連接,查看known_hosts

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

現(xiàn)在還沒有應(yīng)用出去

ssh-copy-id hadoop01

ssh-copy-id hadoop02

ssh-copy-id hadoop03

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

#一鍵啟動(dòng),只在hadoop01機(jī)器上一鍵啟動(dòng)即可

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

#jps查看已經(jīng)啟動(dòng)起來的服務(wù)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

至此hadoop分布式搭建完成

hadoop集群的web端訪問

#關(guān)閉防火墻

查看當(dāng)前防火墻狀態(tài):systemctl status firewalld

臨時(shí)關(guān)閉防火墻:systemctl stop firewalld

永久關(guān)閉防火墻:systemctl disable firewalld

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

#HDFS web頁面訪問

第一臺虛擬機(jī)ip

http://192.168.137.16:50070/

可以看到其他兩個(gè)節(jié)點(diǎn)

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)

yarn集群web頁面

http://192.168.137.16:8088/

Hadoop分布式安裝,Hadoop,1024程序員節(jié),hadoop,大數(shù)據(jù)文章來源地址http://www.zghlxwxcb.cn/news/detail-714503.html

到了這里,關(guān)于Hadoop分布式安裝的文章就介紹完了。如果您還想了解更多內(nèi)容,請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 【Java程序員面試專欄 分布式中間件】Redis 核心面試指引

    【Java程序員面試專欄 分布式中間件】Redis 核心面試指引

    關(guān)于Redis部分的核心知識進(jìn)行一網(wǎng)打盡,包括Redis的基本概念,基本架構(gòu),工作流程,存儲機(jī)制等,通過一篇文章串聯(lián)面試重點(diǎn),并且?guī)椭訌?qiáng)日?;A(chǔ)知識的理解,全局思維導(dǎo)圖如下所示 明確redis的特性、應(yīng)用場景和數(shù)據(jù)結(jié)構(gòu) Redis是一個(gè) 開源的、內(nèi)存中的數(shù)據(jù)結(jié)構(gòu)存儲系統(tǒng)

    2024年02月20日
    瀏覽(16)
  • Hadoop偽分布式安裝配置

    Hadoop偽分布式安裝配置

    1、添加用戶組 [root@hadoop00 ~]# groupadd hadoop 2、添加用戶并分配用戶組 [root@hadoop00 ~]# useradd -g hadoop hadoop 3、修改hadoop用戶密碼 [root@hadoop00 ~]# passwd hadoop 1、上傳系統(tǒng)安裝鏡像到虛擬機(jī)服務(wù)器的/root目錄 2、新建掛載點(diǎn)目錄 [root@hadoop00 ~]# mkdir /mnt/centos 3、掛載鏡像 ?????? [root@h

    2024年01月24日
    瀏覽(30)
  • hadoop偽分布式安裝部署

    hadoop偽分布式安裝部署

    首先jdk安裝完畢 jdk安裝文檔參考: Linux 環(huán)境下安裝JDK1.8并配置環(huán)境變量_linux安裝jdk1.8并配置環(huán)境變量_Xi-Yuan的博客-CSDN博客 準(zhǔn)備好hadoop的安裝包 我的下載地址如下: We Transfer Gratuit. Envoi sécurisé de gros fichiers. 將hadoop包上傳到隨便一個(gè)目錄,但是解壓縮到/opt/ 目錄下 tar -zvxf

    2024年02月08日
    瀏覽(26)
  • 【Hadoop】安裝部署-完全分布式搭建

    【Hadoop】安裝部署-完全分布式搭建

    Hadoop是一個(gè)適合大數(shù)據(jù)的分布式存儲和計(jì)算平臺。狹義上說Hadoop就是一個(gè)框架平臺,廣義上講Hadoop代表大數(shù)據(jù)的一個(gè)技術(shù)生態(tài)圈,包括很多軟件框架。而我們的完全分布式,指的是在真實(shí)環(huán)境下,使?多臺機(jī)器,共同配合,來構(gòu)建?個(gè)完整的分布式文件系統(tǒng)。在真實(shí)環(huán)境中,

    2024年02月07日
    瀏覽(25)
  • Docker安裝Hadoop分布式集群

    Docker安裝Hadoop分布式集群

    hadoop目錄安裝在:/usr/local/hadoop-2.7.0/etc/hadoop

    2024年02月13日
    瀏覽(21)
  • Hadoop偽分布式安裝搭建教程

    Hadoop偽分布式安裝搭建教程

    安裝VMware虛擬機(jī) 下載Ubuntu 18.04鏡像,并在VMware中新建虛擬機(jī) 安裝VMware tools 搭建Hadoop偽分布式 1.安裝VMware Workstation 14 Pro版本 2.1 在VMware上方菜單欄,文件--新建虛擬機(jī) ?2.2 默認(rèn) ?2.3 選擇稍后安裝操作系統(tǒng) 2.4 選擇Linux(L),版本 Ubuntu ? ?2.5 定義虛擬機(jī)的名稱,選擇虛擬機(jī)的

    2023年04月09日
    瀏覽(21)
  • Hadoop的偽分布式安裝方法

    Hadoop的偽分布式安裝方法

    實(shí)驗(yàn)環(huán)境: 操作系統(tǒng):Linux (Ubuntu 20.04.5) Hadoop版本:3.3.2 JDK版本:1.8.0_162 hadoop與jdk的安裝包可詳見博客中: https://blog.csdn.net/weixin_52308622/article/details/131947961?spm=1001.2014.3001.5501 (1)創(chuàng)建 hadoop 用戶(使用 /bin/bash 作為 Shell)、設(shè)置密碼(建議簡單)并為其添加管理員權(quán)限。具

    2024年02月14日
    瀏覽(16)
  • Hadoop完全分布式安裝基于Docker

    Hadoop完全分布式安裝基于Docker

    (都在root用戶下) 在Dockfile文件中添加以下內(nèi)容 基于centos鏡像,生成帶有spenssh-server、openssh-clients的鏡像,用戶為root,密碼為a123456,鏡像維護(hù)者(作者)為hadoop 建好Dockerfile文件后,生成鏡像,在終端輸入: 1、在主機(jī)下載ssh 2、把hadoop和jdk傳到/root 3、解壓hadoop和jdk 4、生成帶

    2024年04月29日
    瀏覽(20)
  • 虛擬機(jī)Ubuntu安裝Hadoop(偽分布式安裝)

    虛擬機(jī)Ubuntu安裝Hadoop(偽分布式安裝)

    1.創(chuàng)建hadoop用戶 在終端輸入 為hadoop用戶設(shè)置密碼,連續(xù)輸入兩次密碼即可 為Hadoop用戶增加管理員權(quán)限,避免以后的麻煩 這里我們切換到hadoop用戶,進(jìn)行下一步操作 2.ssh的安裝以及設(shè)置免密登錄 檢測ssh是否安裝,有sshd說明已經(jīng)啟動(dòng) 這邊我們還需要安裝ssh server,這邊又yes輸入

    2023年04月08日
    瀏覽(16)
  • Hadoop3.3偽分布式安裝部署

    Hadoop3.3偽分布式安裝部署

    目錄 引言 實(shí)驗(yàn)?zāi)康募皽?zhǔn)備 實(shí)驗(yàn)步驟 引言 Hadoop生態(tài)的搭建有本地模式、偽分布模式、集群模式(3臺機(jī)器)三種安裝模式,本篇文章將詳細(xì)介紹Hadoop3.3的偽分布安裝模式。 實(shí)驗(yàn)?zāi)康募皽?zhǔn)備 一、完成Hadoop3.3偽分布安裝 二、在Linux中配置jdk1.8環(huán)境變量 三、配置主機(jī)的免密鑰登錄

    2024年02月21日
    瀏覽(23)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包