国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

hadoop偽分布式集群的安裝(不是單機版)

這篇具有很好參考價值的文章主要介紹了hadoop偽分布式集群的安裝(不是單機版)。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

準備工作

三臺虛擬機,關閉防火墻,關閉selinux

查看防火狀態(tài) systemctl status firewalld

暫時關閉防火墻 systemctl stop firewalld

永久關閉防火墻 systemctl disable firewalld

查看 selinux狀態(tài) getenforce

暫時關閉 selinux setenforce 0

永久關閉 selinux 在/etc/selinux/config文件中將SELINUX改為disabled

?文章來源地址http://www.zghlxwxcb.cn/news/detail-413183.html

修改主機名稱

三臺主機

hostnamectl set-hostname master
hostnamectl set-hostname slave1
hostnamectl set-hostname slave2

使用bash命令刷新生效

在/etc/hosts文件中添加ip映射

IP+主機名稱

根據(jù)自己需求修改,這里給出模板

hadoop偽分布式集群的安裝(不是單機版)

?

?

?

配置ssh免密登錄

?

ssh-keygten -t rsa   #生成密鑰

ssh-copy-id master  #分發(fā)給其他節(jié)點,分發(fā)給自己主要是為了之后群集集群不需要輸入密碼
ssh-copy-id slave1
ssh-copy-id slave2

安裝JAVA和HADOOP

解壓JAVA

hadoop偽分布式集群的安裝(不是單機版)

?

?解壓HADOOP

hadoop偽分布式集群的安裝(不是單機版)

?

?修改名稱為jdk與hadoop

hadoop偽分布式集群的安裝(不是單機版)

?

?配置環(huán)境變量

?hadoop偽分布式集群的安裝(不是單機版)

?

?刷新環(huán)境變量,使生效

source /etc/profile

使用javac? 與hadoop verison驗證是否安裝成功

配置hadoop文件

core-site.xml文件


<!-- 指定HDFS中NameNode的地址 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>


<!-- 指定Hadoop運行時產(chǎn)生文件的存儲目錄 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/local/src/hadoop-2.7.2/data/tmp</value>
</property>

?

hdfs-site.xml


<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/usr/local/src/hadoop/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/usr/local/src/hadoop/data</value>
</property>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>master:9001</value>
</property>
<property>
<name>dfs.webhdfs.enabled</name>
<value>true</value>
</property>
<property>
<name>dfs.permissions</name>
<value>false</value>
</property>

?

yarn.site.xml


<property>
<name>yarn.resourcemanager.address</name>
<value>master:18040</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>master:18030</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>master:18088</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>master:18025</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>master:18141</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>

?

mapred-site.xml

<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>

在hadoop-env.sh yarn-env.sh? mapred-env.sh中配置java環(huán)境

hadoop偽分布式集群的安裝(不是單機版)

?

?這里給出hadoop-env.sh 其他相同

配置slave

寫入三臺主機的主機名

hadoop偽分布式集群的安裝(不是單機版)

?

?將配置好的hadoop分發(fā)給其他主機

[root@master ~]# scp -r /usr/local/src/hadoop/ root@slave1:/usr/local/src/

[root@master ~]# scp -r /usr/local/src/hadoop/ root@slave2:/usr/local/src/

格式化namenode

hdfs namenode -format
格式化成功則status 為0 如果為1或者是其他數(shù)字則是格式化失敗
hadoop偽分布式集群的安裝(不是單機版)

?

hadoop偽分布式集群的安裝(不是單機版)

?

啟動dfs

start-dfs.sh

啟動yarn

start-yarn.sh

使用jps查看

master節(jié)點:ResourceManager,DataNode,SecondaryNameNode,NameNode,NodeManager

slave1節(jié)點與slave2節(jié)點:NodeManager,DataNode

集群全部啟動則為啟動成功

進入web頁面驗證

namenode? web頁面 = IP+50070

yarn? web頁面 =IP 8088

?

到了這里,關于hadoop偽分布式集群的安裝(不是單機版)的文章就介紹完了。如果您還想了解更多內容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。如若轉載,請注明出處: 如若內容造成侵權/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領支付寶紅包贊助服務器費用

相關文章

  • 【Hadoop】下載安裝及偽分布式集群搭建教程

    【Hadoop】下載安裝及偽分布式集群搭建教程

    目錄 1.概述 2.環(huán)境準備 3.hadoop安裝 3.1.下載安裝配置 3.2.偽分布式集群 3.3.注意事項 4.Hadoop集群的組成 hadoop有三種安裝模式 單機模式,只在一臺機器上運行,存儲用的本地文件系統(tǒng)而不是HDFS。 偽分布式模式,存儲采用HDFS,名稱節(jié)點和數(shù)據(jù)節(jié)點在同一臺機器上。 分布式模式,

    2024年04月14日
    瀏覽(32)
  • Hadoop集群部署(完全分布式模式、hadoop2.7.3+安裝包)

    Hadoop集群部署(完全分布式模式、hadoop2.7.3+安裝包)

    目錄 一、上傳、解壓配置 (一)上傳 (二)解壓 (三)配置hadoop系統(tǒng)環(huán)境變量 1.配置hadoop環(huán)境變量 2.讓環(huán)境變量生效 3.驗證hadoop系統(tǒng)環(huán)境變量 二、修改配置文件 ?(一)前置介紹 (二)更改配置文件 1.配置Hadoop集群主機點 2.修改core-site.xml文件 3.修改hdfs-site.xml文件 4.修改

    2024年04月25日
    瀏覽(33)
  • 部署HDFS集群(完全分布式模式、hadoop用戶控制集群、hadoop-3.3.4+安裝包)

    部署HDFS集群(完全分布式模式、hadoop用戶控制集群、hadoop-3.3.4+安裝包)

    目錄 前置 一、上傳解壓 (一 )上傳 (二)解壓 二、修改配置文件 (一)配置workers文件 (二)配置hadoop-env.sh文件 (三)配置core-site.xml文件 (四)配置hdfs-site.xml文件 三、分發(fā)到hp2、hp3, 并設置環(huán)境變量 (一)準備數(shù)據(jù)目錄? ? (二)配置環(huán)境變量 四、創(chuàng)建數(shù)據(jù)目錄,并

    2024年04月14日
    瀏覽(28)
  • Hadoop3.3.5最新版本安裝分布式集群部署

    Hadoop3.3.5最新版本安裝分布式集群部署

    Index of /dist/hadoop/common https://archive.apache.org/dist/hadoop/common ?集群規(guī)劃: 注意: NameNode和SecondaryNameNode不要安裝在同一臺服務器 ResourceManager也很消耗內存,不要和NameNode、SecondaryNameNode配置在同一臺機器上。 機器 ip 分配節(jié)點 node01 192.168.56.201 NameNode 、DataNode、NodeManager node02 192.

    2024年02月01日
    瀏覽(42)
  • Linux-一篇文章,速通Hadoop集群之偽分布式,完全分布式,高可用搭建(附zookeeper,jdk介紹與安裝)。

    Linux-一篇文章,速通Hadoop集群之偽分布式,完全分布式,高可用搭建(附zookeeper,jdk介紹與安裝)。

    文章較長,附目錄,此次安裝是在VM虛擬環(huán)境下進行。文章第一節(jié)主要是介紹Hadoop與Hadoop生態(tài)圈并了解Hadoop三種集群的區(qū)別,第二節(jié)和大家一起下載,配置Linux三種集群以及大數(shù)據(jù)相關所需的jdk,zookeeper,只需安裝配置的朋友可以直接跳到文章第二節(jié)。同時,希望我的文章能幫

    2024年03月19日
    瀏覽(28)
  • 頭歌Hadoop 開發(fā)環(huán)境搭建及HDFS初體驗(第2關:配置開發(fā)環(huán)境 - Hadoop安裝與偽分布式集群搭建)

    頭歌Hadoop 開發(fā)環(huán)境搭建及HDFS初體驗(第2關:配置開發(fā)環(huán)境 - Hadoop安裝與偽分布式集群搭建)

    注: 1 頭歌《Hadoop 開發(fā)環(huán)境搭建及HDFS初體驗》三關在一個實驗環(huán)境下,需要三關從前往后按順序評測,跳關或者實驗環(huán)境結束后重新打開 不能單獨評測通過 2 復制粘貼請用右鍵粘貼,CTRL+C/V不管用哦~ 第1關:配置開發(fā)環(huán)境 - JavaJDK的配置: 解壓: 配置環(huán)境變量: 細節(jié): vi

    2024年02月08日
    瀏覽(353)
  • Hadoop分布式集群搭建

    Hadoop分布式集群搭建

    集群以三臺電腦搭建,每臺電腦創(chuàng)建一個UbuntuKylin虛擬機,集群以三臺UbuntuKylin虛擬機為基礎搭建,虛擬機主機名分別為hadoop101、hadoop111和hadoop121。IP地址分別為192.168.214.101、192.168.214.111和192.168.214.121。 主機名 IP地址: hadoop101 192.168.214.101 hadoop111 192.168.214.111 hadoop121 192.168.214

    2024年02月03日
    瀏覽(23)
  • Hadoop 完全分布式集群搭建

    Hadoop 完全分布式集群搭建

    部署前可以先了解下 Hadoop運行模式及目錄結構-CSDN博客 服務 hadoop102 hadoop103 hadoop104 NameNode √ DataNode √ √ √ Secondary NameNode √ ResourceManager √ NodeManager √ √ √ JobHistoryServer √ IPv4 192.168.88.102 192.168.88.103 192.168.88.104 NodeObject master worker1 worker2 最小化安裝 Neokylin7.0 用于搭建 Had

    2024年02月04日
    瀏覽(52)
  • Hadoop分布式集群搭建教程

    Hadoop分布式集群搭建教程

    大數(shù)據(jù)課程需要搭建Hadoop分布式集群,在這里記錄一下搭建過程 搭建Haoop分布式集群所需環(huán)境: VMware:VMware-workstation-full-17.0.2-21581411 CentOS:CentOS-7-x86_64-DVD-2003, Hadoop:hadoop-3.1.3.tar JDK:jdk-8u212-linux-x64.tar.gz 新建虛擬機 設置用戶 命名虛擬機 自定義硬件,完成虛擬機創(chuàng)建 開始

    2024年02月08日
    瀏覽(24)
  • HADOOP 偽分布式集群搭建

    HADOOP 偽分布式集群搭建

    由于筆者這里使用的是vmware 虛擬機 采用centos7 linux 操作系統(tǒng)進行搭建,所以一下示例均以centos7進行示例 1.? 搭建vmware 虛擬機 (1)創(chuàng)建好虛擬機后采用linux ISO鏡像文件啟動安裝centos7操作系統(tǒng) (其 它方式也可以) (2)完成之后設置網(wǎng)絡模式,筆者采用橋接模式進行設置 ?

    2024年02月01日
    瀏覽(17)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領取紅包,優(yōu)惠每天領

二維碼1

領取紅包

二維碼2

領紅包