国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

這篇具有很好參考價值的文章主要介紹了《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)

班級 學號 姓名

Hadoop的偽分布式安裝和配置
一、實驗目的
1、理解Hadoop偽分布式的安裝過程;
2、學會JDK的安裝和SSH免密碼配置;
3、學會Hadoop的偽分布式安裝和配置。
二、實驗內(nèi)容
在linux平臺中安裝Hadoop,包括JDK安裝、SSH免密碼配置和偽分布式安裝。
三、實驗過程
(一)、Java JDK的安裝
1、將JDK解壓到“/software”目錄下。

tar  –zxvf  jdk-8u161-linux-x64.tar.gz

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

2、在/etc/profile中配置JAVA_HOME和PATH環(huán)境變量。
查看jdk所在絕對路徑
進入配置Vim/etc/profile
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

3、使環(huán)境變量生效并檢查

source/etc/profile 

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

(二)、SSH免密碼配置
1.先進入到ssh目錄,命令如下:

cd~/.ssh/

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

2.利用 ssh-keygent 生成(非對稱加密)密鑰

ssh-keygen -t rsa

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

3.將密鑰加入到授權(quán)中

cat ./id_rsa.pub >> ./authorized_keys

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

4.執(zhí)行 「ssh localhost」命令,即可免密登錄

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

(三)、hadoop的偽分布式安裝和配置
1.下載好了的hadoop包解壓
進入目標目錄:cd software
解壓tar -zxvf hadoop -3.2.0.tar.gz
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

2.將Hadoop文件名改變便于后期環(huán)境配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

3.配置Hadoop環(huán)境變量

Vim /etc/profile

刷新變量source /etc/profile
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

4.配置hadoop的配置文件
1)cd $HADOOP_HOME/etc/Hadoop

vim hadoop-env.sh 

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

  1. vim core-site.xml
    《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
    《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

3)vim hdfs-site.xml
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

5.完成配置執(zhí)行 NameNode 的格式化:

cd /home/hadoop/software/hadoop
./bin/hdfs namenode -format

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

6.試運行Hadoop
1)開啟 NameNode 和 DataNode 守護進程。

cd /home/hadoop/software/hadoop
./sbin/start-dfs.sh

#start-dfs.sh是個完整的可執(zhí)行文件,中間沒有空格
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

2)出現(xiàn)錯誤,解決方案

cd /home/hadoop/software/Hadoop
vim hadoop-env.sh

添加

export HDFS_NAMENODE_USER=root
export HDFS_DATANODE_USER=root
export HDFS_SECONDARYNAMENODE_USER=root
export YARN_RESOURCEMANAGER_USER=root
export YARN_NODEMANAGER_USER=root

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

4) 錯誤WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform… using builtin-java classes where applicable

vim ~/.bashrc
export JAVA_LIBRARY_PATH=/usr/local/hadoop/lib/native
source ~/.bashrc

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

3)錯誤Permanently added (ECDSA) to the list of known hosts

vim etc/ssh/ssh_config

#StrictHostKeyChecking ask去掉注釋,并改為no
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

7.驗證 Hadoop 啟動完成后,可以通過命令 jps 來判斷是否成功啟動
《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置

8.關(guān)閉 Hadoop

./sbin/stop-dfs.sh

《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置文章來源地址http://www.zghlxwxcb.cn/news/detail-421986.html

到了這里,關(guān)于《Hadoop大數(shù)據(jù)技術(shù)》實驗報告(1)Hadoop的偽分布式安裝和配置的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔相關(guān)法律責任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • 大數(shù)據(jù)技術(shù)棧-Hadoop3.3.4-完全分布式集群搭建部署-centos7(完全超詳細-小白注釋版)虛擬機安裝+平臺部署

    目錄 環(huán)境條件: 1、安裝虛擬機(已安裝好虛擬機的可跳轉(zhuǎn)至? 二、安裝JDK與Hadoop) (1)直接新建一臺虛擬機 (2)首次啟用虛擬機,進行安裝 一、集群前置環(huán)境搭建(三臺機器分別設(shè)置hostname、網(wǎng)卡(ip)配置、ssh免密登錄) 1、查看一下本機與虛擬機的網(wǎng)卡和ip信息 (1)

    2024年02月06日
    瀏覽(31)
  • 大數(shù)據(jù)--分布式存儲 Hadoop

    大數(shù)據(jù)--分布式存儲 Hadoop

    Hadoop指Apache這款開源框架,它的核心組件有: HDFS(分布式文件系統(tǒng)):解決海量數(shù)據(jù)存儲 MAPREDUCE(分布式運算編程框架):解決海量數(shù)據(jù)計算 YARN(作業(yè)調(diào)度和集群資源管理的框架):解決資源任務(wù)調(diào)度 目前主流的hadoop框架已經(jīng)迭代更新到hadoop3.x的版本了,本篇的介紹也是

    2024年01月17日
    瀏覽(50)
  • 大數(shù)據(jù)之Hadoop分布式數(shù)據(jù)倉庫HBase

    大數(shù)據(jù)之Hadoop分布式數(shù)據(jù)倉庫HBase

    HBase 是一個構(gòu)建在 Hadoop 文件系統(tǒng)之上的面向列的數(shù)據(jù)庫管理系統(tǒng)。 要想明白為什么產(chǎn)生 HBase,就需要先了解一下 Hadoop 存在的限制?Hadoop 可以通過 HDFS 來存儲結(jié)構(gòu)化、半結(jié)構(gòu)甚至非結(jié)構(gòu)化的數(shù)據(jù),它是傳統(tǒng)數(shù)據(jù)庫的補充,是海量數(shù)據(jù)存儲的最佳方法,它針對大文件的存儲,

    2024年02月02日
    瀏覽(27)
  • (大數(shù)據(jù)開發(fā)隨筆9)Hadoop 3.3.x分布式環(huán)境部署——全分布式模式

    (大數(shù)據(jù)開發(fā)隨筆9)Hadoop 3.3.x分布式環(huán)境部署——全分布式模式

    分布式文件系統(tǒng)中,HDFS相關(guān)的守護進程也分布在不同的機器上,如: NameNode守護進程,盡可能單獨部署在一臺硬件性能較好的機器中 其他的每臺機器上都會部署一個DataNode進程,一般的硬件環(huán)境即可 SecondaryNameNode守護進程最好不要和NameNode在同一臺機器上 守護進程布局 Name

    2023年04月16日
    瀏覽(23)
  • 大數(shù)據(jù)學習02-Hadoop分布式集群部署

    大數(shù)據(jù)學習02-Hadoop分布式集群部署

    操作系統(tǒng):centos7 軟件環(huán)境:jdk8、hadoop-2.8.5 1.下載VMware,建議支持正版 2.安裝到Widows目錄下任意位置即可,安裝目錄自定義。打開VMware,界面如下: 3.創(chuàng)建虛擬機 創(chuàng)建虛擬機—選擇自定義 這一步按照默認的配置就好 選擇系統(tǒng),安裝程序光盤映像文件iso,這里需要下載cenos鏡像

    2024年02月16日
    瀏覽(22)
  • 大數(shù)據(jù)Hadoop完全分布式及心得體會

    大數(shù)據(jù)Hadoop完全分布式及心得體會

    Hadoop是一個 分布式系統(tǒng) 基礎(chǔ)技術(shù)框架,利用hadoop,開發(fā)用戶可以在不了解分布式底層細節(jié)的情況下,開發(fā)分布式程序,從而達到充分利用集群的威力高速運算和存儲的目的;而在本學期中,我們的專業(yè)老師帶我們學習了Hadoop框架中最 核心 的設(shè)計: MapReduce 和 HDFS 。 MapReduc

    2024年02月08日
    瀏覽(23)
  • hadoop完全分布式集群搭建(超詳細)-大數(shù)據(jù)集群搭建

    hadoop完全分布式集群搭建(超詳細)-大數(shù)據(jù)集群搭建

    本次搭建完全分布式集群用到的環(huán)境有: jdk1.8.0 hadoop-2.7.7 本次搭建集群所需環(huán)境也給大家準備了,下載鏈接地址:https://share.weiyun.com/dk7WgaVk 密碼:553ubk 本次完全分布式集群搭建需要提前建立好三臺虛擬機,我分別把它們的主機名命名為:master,slave1,slave2 一.配置免密登陸 首先

    2024年02月10日
    瀏覽(29)
  • 大數(shù)據(jù)內(nèi)容分享(九):Hadoop-生產(chǎn)集群搭建(完全分布式)

    大數(shù)據(jù)內(nèi)容分享(九):Hadoop-生產(chǎn)集群搭建(完全分布式)

    目錄 Hadoop運行模式——完全分布式 1、準備3臺虛擬機(關(guān)閉防火墻、配置靜態(tài)IP 和 主機名稱) 2、安裝JDK 和 Hadoop 并配置JDK和Hadoop的環(huán)境變量 3、配置完全分布式集群 4、集群配置 1)集群部署規(guī)劃 2)配置文件說明 3)配置集群 5、集群啟動 與 測試 1)workers的配置 2)啟動集

    2024年02月21日
    瀏覽(24)
  • 分布式計算 第五章 大數(shù)據(jù)多機計算:Hadoop

    分布式計算 第五章 大數(shù)據(jù)多機計算:Hadoop

    5.2.1 從硬件思考大數(shù)據(jù) 從硬件角度看,一臺或是幾臺機器似乎難以勝任大數(shù)據(jù)的存儲和計算工作。 ? 大量機器的集群構(gòu)成數(shù)據(jù)中心 ? 使用高速互聯(lián)網(wǎng)絡(luò)對大量機器進行連接以確保數(shù)據(jù)傳遞 ? 綜合考量數(shù)據(jù)中心的散熱問題、能耗問題,以及各方面成本 ? 集群中硬件發(fā)生故

    2024年02月05日
    瀏覽(23)
  • 大數(shù)據(jù)開發(fā)·關(guān)于虛擬機Hadoop完全分布式集群搭建教程

    大數(shù)據(jù)開發(fā)·關(guān)于虛擬機Hadoop完全分布式集群搭建教程

    官網(wǎng)鏈接 進入后網(wǎng)站如圖,各位按需下載 官網(wǎng)鏈接 進入頁面點擊下載 再根據(jù)我們需要下載的軟件進入下載頁面 點擊右側(cè)紅框內(nèi)的免費授權(quán)頁面獲取免費許可 進入后如圖,兩者我們都需要所以都勾選,填寫的郵箱用于接收下載鏈接,下載后進行安裝即可 這里先和大家強調(diào)一

    2024年02月07日
    瀏覽(32)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包