国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

這篇具有很好參考價值的文章主要介紹了虛擬機Ubuntu安裝Hadoop(偽分布式安裝)。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

1.創(chuàng)建hadoop用戶

在終端輸入

sudo useradd -m hadoop -s /bin/bash

為hadoop用戶設(shè)置密碼,連續(xù)輸入兩次密碼即可

sudo passwd hadoop

為Hadoop用戶增加管理員權(quán)限,避免以后的麻煩

sudo adduser hadoop sudo

這里我們切換到hadoop用戶,進行下一步操作

2.ssh的安裝以及設(shè)置免密登錄

檢測ssh是否安裝,有sshd說明已經(jīng)啟動

ps -ef |grep ssh

這邊我們還需要安裝ssh server,這邊又yes輸入yes就可以

sudo apt-get install openssh-server

登錄ssh,有yes輸入yes

ssh localhost

緊接著退出登錄,設(shè)置無密碼登錄,使用ssh-keygen生成密匙,并將密匙加入到授權(quán)

exit ? ? ? ? ? ? ? ? ? ? ? ? ??
cd ~/.ssh/ ? ? ? ? ? ? ? ? ? ??
ssh-keygen -t rsa ? ? ? ? ? ? ?# 這里三步回車就好了
cat ./id_rsa.pub > ./authorized_keys ?

這邊進行驗證

ssh localhost

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

出現(xiàn)這個說明免密登錄設(shè)置成功?

3.java環(huán)境的搭建

因為hadoop是由java編寫的,所以hadoop的安裝與驅(qū)動需要jdk,這邊我們需要下載jdk,并且設(shè)置環(huán)境變量。

首先我們先下載所需的jdk

下載網(wǎng)址Java Downloads | Oracle

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

?下載上圖畫圈的,下載完成之后,連接虛擬機與xftp,由于需要直到虛擬機的ip地址,我們進入虛擬機輸入指令

ifconfig

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

?目前沒有下載所需的配置,這邊下載一下,如果沒有則不下載

sudo apt install net-tools

再次查看ip,這邊可知ip是192.168.220.132

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

?打開xftp新建會話

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

?這邊最好在hadoop的家目錄下創(chuàng)建一個為downloads的目錄

mkdir downloads

將jdk傳輸?shù)絛ownloads目錄下

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

?在虛擬機上切換到downloads目錄下

cd downloads

接下來我們進行jdk的解壓和安裝,按著代碼來就好了

mkdir downloads
cd downloads
cd /usr/lib
sudo mkdir jvm #創(chuàng)建存放jdk的文件夾
cd /home/hadoop/downloads
ls #展示jdk名稱
sudo tar -zxvf jdk-18_linux-x64_bin.tar.gz -C /usr/lib/jvm #這邊按照你自己下的版本名

給解壓的jdk改名

cd /usr/lib/jvm
ls
sudo mv jdk-18.0.2.1 java

設(shè)置jdk的環(huán)境變量

vim /etc/profile

如果提示沒有vim,則下載安裝vim

sudo apt install vim

再執(zhí)行上述代碼

這邊還要給 /etc/profile 增加可寫權(quán)限

這邊考慮簡單

sudo chmod a+w /etc/profile

在后面添加

export JAVA_HOME=/usr/lib/jvm/java
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH

使變量生效

source /etc/profile

檢查環(huán)境變量是否成功

java -version

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

?4.安裝hadoop

下載hadoop,下載官網(wǎng)Apache Downloads

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

?繼續(xù)通過xftp上傳到downloads,這邊不贅述

下面進行解壓安裝

sudo tar -zxvf hadoop-3.3.1.tar.gz -C /usr/local    
cd /usr/local/
sudo mv hadoop-3.3.1 hadoop            #將文件夾名改為hadoop

檢查是否安裝成功

cd hadoop
bin/hadoop version

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

5. 偽分布式配置

先給兩個文件增加可寫權(quán)限

sudo chmod a+w etc/hadoop/core-site.xml
sudo chmod a+w etc/hadoop/hdfs-site.xml

為xml中的configuration 標(biāo)簽添加如下內(nèi)容:

<configuration>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/usr/local/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

修改配置文件 hdfs-site.xml:

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/usr/local/hadoop/tmp/dfs/name</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/usr/local/hadoop/tmp/dfs/data</value>
    </property>
</configuration>

編輯hadoop-env.sh

向下找到某行內(nèi)容為 ”# export JAVA_HOME=” ,修改為export JAVA_HOME=/usr/lib/jvm/java

在Hadoop安裝目錄下找到sbin文件夾

在里面修改四個文件

對于start-dfs.sh和stop-dfs.sh文件,添加下列參數(shù):

#!/usr/bin/env bash
HDFS_DATANODE_USER=root
HADOOP_SECURE_DN_USER=hdfs
HDFS_NAMENODE_USER=root
HDFS_SECONDARYNAMENODE_USER=root
對于start-yarn.sh和stop-yarn.sh文件,添加下列參數(shù):

#!/usr/bin/env bash
YARN_RESOURCEMANAGER_USER=root
HADOOP_SECURE_DN_USER=yarn
YARN_NODEMANAGER_USER=root

配置完成后,進行NameNode的格式化

cd /usr/local/hadoop
sudo ./bin/hdfs namenode -format

然后開啟 NameNode 和 DataNode 守護進程。

cd /usr/local/hadoop
sudo ./sbin/start-dfs.sh 

輸入命令jps

jps

出現(xiàn)這個說明配置成功

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

?但是一般來說我是沒成功很多次

顯示如下結(jié)果

Hadoop localhost:?frankxulei@localhost: Permission denied (publickey,password)

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

這時我們該怎么辦呢?

這說明是權(quán)限不夠或者剛才免密登錄根本沒成功

這時我們選擇切換root用戶,但是這時也沒有設(shè)置免密,所以我們重新設(shè)置一次免密

?

配置SSH

1、建議先刪除一下ssh的目錄,重新配置

rm -r ?~/.ssh

2、使用如下命令來生存公鑰和私鑰,參數(shù)說明:-t為選擇加密算法,-P為設(shè)置密碼,設(shè)置為""就表明不需要密碼,主要P大寫,輸入命令后,一直回車即可

ssh-keygen -t rsa -P ""

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

3、進入到ssh目錄,可以看到兩個文件,id_rsa為私鑰,id_rsa.pub為公鑰,只要將本機內(nèi)的id_rsa.pub放入到有對方機器的authorize_keys文件中,就可以ssh登錄對方的機器

cd ~/.ssh

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

4、首先設(shè)置免密登錄本機,使用cat命令將公鑰添加到authorize_keys文件中,注意一個“>”表示覆蓋文件,兩個“>”表示在文件尾部追加,添加以后嘗試免密登錄本機可以,第一次連接需要輸入yes確認(rèn)

cat id_rsa.pub >authorized_keys

虛擬機Ubuntu安裝Hadoop(偽分布式安裝)

5、接下來是免密登錄對方的機器,首先在對方機器做如上的操作,生成公鑰和私鑰,然后使用scp命令將本機的公鑰追加到對方機器的authorize_keys文件中即可實現(xiàn)免密登錄

scp id_rsa.pub 用戶名@ip地址:文件目錄

這里我們用 scp id_rsa.pub root@localhost

這樣基本就配置完成了,如果還有問題還請大家一起探討。文章來源地址http://www.zghlxwxcb.cn/news/detail-400444.html

到了這里,關(guān)于虛擬機Ubuntu安裝Hadoop(偽分布式安裝)的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • Hadoop分布式集群搭建(三臺虛擬機)

    Hadoop分布式集群搭建(三臺虛擬機)

    搭建好VMware Workstation Pro(我這里裝的版本是16) 搭建hadoop集群需要三臺虛擬機 1.新建虛擬機——自定義(高級) ?2.不用改動,點擊下一步? 3.映像文件稍后再加入 ?4.選擇Linux——CentOS 7 64位 ?5.可以在存放虛擬機的文件內(nèi)新建一個文件夾,專門放hadoop集群需要的虛擬機(有三

    2024年02月08日
    瀏覽(26)
  • 大數(shù)據(jù)開發(fā)·關(guān)于虛擬機Hadoop完全分布式集群搭建教程

    大數(shù)據(jù)開發(fā)·關(guān)于虛擬機Hadoop完全分布式集群搭建教程

    官網(wǎng)鏈接 進入后網(wǎng)站如圖,各位按需下載 官網(wǎng)鏈接 進入頁面點擊下載 再根據(jù)我們需要下載的軟件進入下載頁面 點擊右側(cè)紅框內(nèi)的免費授權(quán)頁面獲取免費許可 進入后如圖,兩者我們都需要所以都勾選,填寫的郵箱用于接收下載鏈接,下載后進行安裝即可 這里先和大家強調(diào)一

    2024年02月07日
    瀏覽(32)
  • 大數(shù)據(jù)技術(shù)棧-Hadoop3.3.4-完全分布式集群搭建部署-centos7(完全超詳細(xì)-小白注釋版)虛擬機安裝+平臺部署

    目錄 環(huán)境條件: 1、安裝虛擬機(已安裝好虛擬機的可跳轉(zhuǎn)至? 二、安裝JDK與Hadoop) (1)直接新建一臺虛擬機 (2)首次啟用虛擬機,進行安裝 一、集群前置環(huán)境搭建(三臺機器分別設(shè)置hostname、網(wǎng)卡(ip)配置、ssh免密登錄) 1、查看一下本機與虛擬機的網(wǎng)卡和ip信息 (1)

    2024年02月06日
    瀏覽(31)
  • Hadoop分布式安裝

    Hadoop分布式安裝

    首先準(zhǔn)備好三臺服務(wù)器或者虛擬機,我本機安裝了三個虛擬機,安裝虛擬機的步驟參考我之前的一篇 virtualBox虛擬機安裝多個+主機訪問虛擬機+虛擬機訪問外網(wǎng)配置-CSDN博客 jdk安裝 參考文檔:Linux 環(huán)境下安裝JDK1.8并配置環(huán)境變量_linux安裝jdk1.8并配置環(huán)境變量_Xi-Yuan的博客-CSDN博

    2024年02月08日
    瀏覽(24)
  • Hadoop分布式安裝部署

    Hadoop分布式安裝部署

    VMware Workstation Pro17 CentOS7 Hadoop-3.3.6 jdk1.8.0_391 事先需要在本地電腦安裝VMware,再創(chuàng)建虛擬機,并且克隆該虛擬機,使用多臺機器配合完成完全的分布式文件系統(tǒng)。本文使用三臺虛擬機搭建Hadoop。 Hadoop在安裝部署之前,需要對虛擬機進行網(wǎng)絡(luò)配置,將虛擬機的網(wǎng)絡(luò)狀態(tài)由動態(tài)修

    2024年01月23日
    瀏覽(32)
  • Hadoop分布式集群安裝

    ????????上一篇大數(shù)據(jù)文章講解了在單機上搭建Hadoop-Yarn 偽分布式集群的安裝方法,方便大家學(xué)習(xí),真實環(huán)境不可能只有一臺機器,肯定是多節(jié)點的集群,大單位還會建設(shè)很多Hadoop集群,比如各個大部門有自己的集群,或者按熱、溫、冷來劃分建立集群,反正都是很多臺服

    2024年01月19日
    瀏覽(26)
  • 三臺CentOS7.6虛擬機搭建Hadoop完全分布式集群(一)

    三臺CentOS7.6虛擬機搭建Hadoop完全分布式集群(一)

    這個是筆者大學(xué)時期的大數(shù)據(jù)課程使用三臺CentOS7.6虛擬機搭建完全分布式集群的案例,已成功搭建完全分布式集群,并測試跑實例。 1.1安裝完虛擬機發(fā)現(xiàn)沒有sudo命令和hadoop用戶執(zhí)行命令失敗 我在安裝CentOS 7.6虛擬機后,我發(fā)現(xiàn)不能執(zhí)行sudo命令,同時hadoop用戶執(zhí)行命令失敗。

    2024年02月03日
    瀏覽(29)
  • Hadoop偽分布式安裝配置

    Hadoop偽分布式安裝配置

    1、添加用戶組 [root@hadoop00 ~]# groupadd hadoop 2、添加用戶并分配用戶組 [root@hadoop00 ~]# useradd -g hadoop hadoop 3、修改hadoop用戶密碼 [root@hadoop00 ~]# passwd hadoop 1、上傳系統(tǒng)安裝鏡像到虛擬機服務(wù)器的/root目錄 2、新建掛載點目錄 [root@hadoop00 ~]# mkdir /mnt/centos 3、掛載鏡像 ?????? [root@h

    2024年01月24日
    瀏覽(30)
  • hadoop偽分布式安裝部署

    hadoop偽分布式安裝部署

    首先jdk安裝完畢 jdk安裝文檔參考: Linux 環(huán)境下安裝JDK1.8并配置環(huán)境變量_linux安裝jdk1.8并配置環(huán)境變量_Xi-Yuan的博客-CSDN博客 準(zhǔn)備好hadoop的安裝包 我的下載地址如下: We Transfer Gratuit. Envoi sécurisé de gros fichiers. 將hadoop包上傳到隨便一個目錄,但是解壓縮到/opt/ 目錄下 tar -zvxf

    2024年02月08日
    瀏覽(26)
  • (小白全過程記錄)Ubuntu下偽分布式Hadoop環(huán)境搭建

    (小白全過程記錄)Ubuntu下偽分布式Hadoop環(huán)境搭建

    目錄 0.準(zhǔn)備 1.Hadoop偽分布式環(huán)境搭建 2.安裝ssh,配置ssh無密碼登錄 3.通過拖拽的方式將文件從windows傳到linux桌面 5.安裝hadoop 6.修改hadoop環(huán)境變量 7.修改配置文件 core-site.xml 8.修改配置文件hdfs-site.xml文件 9.執(zhí)行NameNode的格式化 10.開啟NameNode和DataNode守護進程 11.訪問web頁面 12.關(guān)閉

    2024年02月03日
    瀏覽(27)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包