国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

【大數(shù)據(jù)】hadoop運(yùn)行環(huán)境搭建(搭建如此簡(jiǎn)單)

這篇具有很好參考價(jià)值的文章主要介紹了【大數(shù)據(jù)】hadoop運(yùn)行環(huán)境搭建(搭建如此簡(jiǎn)單)。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。


前言

首先準(zhǔn)備好工具。下載好最新的VMware Workstation,CentorOS 7運(yùn)行Linux,建議Linux桌面標(biāo)準(zhǔn)版,且創(chuàng)建好一個(gè)用戶


一、 模板虛擬機(jī)Hadoop100環(huán)境準(zhǔn)備

安裝模板虛擬機(jī)。IP地址192.168.150.100(自定義)、主機(jī)名稱hadoop100、內(nèi)存4G、硬盤50G,嘎嘎重要,一步一步來完成

1. 改為靜態(tài)IP

  • vim /etc/sysconfig/network-scripts/ifcfg-ens33進(jìn)入配置文件(想不起來用tab鍵查找)
  • 更改內(nèi)容示例如下(最后的IP地址等依照自身情況做更改):

BOOTPROTO="static"

IPADDR=192.168.150.100
GATEWAY=192.168.150.2
DSN1=192.168.150.2

2. 建立主機(jī)名映射

  • Linux系統(tǒng)
    進(jìn)入配置文件vim /etc/hosts,加上主機(jī)名及其對(duì)應(yīng)IP地址
    或者
    echo "192.168.150.100 hadoop100" >> /etc/hosts
  • 再進(jìn)windows系統(tǒng)C:\Windows\System32\drivers\etc同樣修改hosts文件

如果主機(jī)名不是hadoop100可通過echo "hadoop100" > /etc/hostname來修改,reboot重啟即可,如不想重啟就執(zhí)行hostnamectl并新開一個(gè)終端

3. 遠(yuǎn)程連接

ssh root@主機(jī)名遠(yuǎn)程連接Linux系統(tǒng)
下載Xshell或者finalshell或者windows終端,本文使用的是windows終端

檢查網(wǎng)絡(luò)是否連接 ping www.csdn.com

4. 安裝軟件包

yum install -y epel-release

Extra Packages for Enterprise Linux是為“紅帽系”的操作系統(tǒng)提供額外的軟件包

5. 關(guān)閉防火墻及其開機(jī)自啟

  • 關(guān)閉防火墻:systemctl stop firewalld
  • 關(guān)閉開機(jī)自啟:systemctl disable firewalld.service

6. 添加root權(quán)限(后面選擇root用戶登錄的話可以不修改)

  • root用戶vim /etc/sudoers第91行加上該用戶名 ALL=(ALL) NOPASSWD: ALL,由于是只讀文件,退出時(shí)wq!
    或者
    將用戶usermod -g wheel 該用戶名 添加到wheel組中,加上NOPASSWD即可

7. 在/opt 目錄下創(chuàng)建文件夾

  • 創(chuàng)建文件夾
mkdir /opt/module
mkdir /opt/software
  • 修改所有者、所屬組(后面選擇root用戶登錄的話可以不修改)
chown ygy:ygy /opt/module
chown ygy:ygy /opt/software
  • 最后 ll 查看修改情況

8. 卸載虛擬機(jī)自帶的openJDK

為什么要卸載openJDK?
是因?yàn)楝F(xiàn)在很多公司都用JDK,開發(fā)項(xiàng)目需要統(tǒng)一的標(biāo)準(zhǔn),而且對(duì)于一些一直用JDK,對(duì)openJDK不是特別了解的朋友來說,openJDK不用為好,畢竟和官網(wǎng)JDK稍微不太一樣,難免在開發(fā)中遇到一些問題,這樣會(huì)大大增加項(xiàng)目的不可控風(fēng)險(xiǎn)

  • 先檢查虛擬機(jī)是否自帶了JDK:rpm -qa | grep -i java
  • 一鍵刪除操作:rpm -qa | grep -i java | xargs -n1 rpm -e --nodeps

解釋:
rpm -qa 查詢安裝的所有rpm軟件包
grep -i 忽略大小寫
xargs -n1 表示每次只傳遞一個(gè)參數(shù)
rpm -e --nodeps 忽略依賴關(guān)系強(qiáng)制刪除軟件

9. 重啟虛擬機(jī)

# 重啟
reboot

沒有改好就再改,重啟到改好為止??

二、克隆虛擬機(jī)

利用模板機(jī)hadoop100,克隆三臺(tái)虛擬機(jī)Hadoop102、103、104(選擇完整克隆),注意在克隆時(shí)要使hadoop100關(guān)機(jī)
hadoop環(huán)境搭建,Hadoop,大數(shù)據(jù),hadoop,分布式,學(xué)習(xí),筆記,開發(fā)語(yǔ)言

對(duì)于每一臺(tái)虛擬機(jī)(按照上面的方法)

  1. 修改靜態(tài)IP地址
  2. 修改主機(jī)名字
  3. 查看/etc/hosts文件內(nèi)是否寫入IP地址及對(duì)應(yīng)的主機(jī)名
  4. reboot重啟后檢查主機(jī)名是否修改成功、是否ping的通(聯(lián)網(wǎng))
  5. 挨個(gè)遠(yuǎn)程登錄試試看

三、在hadoop102上安裝JDK&hadoop

以下操作在root用戶下,無需安裝包即可下載

1. 安裝JDK

  • 進(jìn)入software文件夾 cd /opt/software,執(zhí)行
wget --no-check-certificate https://repo.huaweicloud.com/java/jdk/8u151-b12/jdk-8u151-linux-x64.tar.gz
  • 下載完畢后,解壓下載的JDK1.8安裝包 tar -zxvf jdk-8u151-linux-x64.tar.gz -C /opt/module/
  • 為了方便,重命名 mv jdk1.8.0_151/ java8
  • 配置Java環(huán)境變量,vim /etc/profile.d/my_env.sh寫入
#JAVA_HOME
export JAVA_HOME=/opt/module/java8
export PATH=$PATH:$JAVA_HOME/bin
  • 刷新當(dāng)前的shell環(huán)境 source /etc/profile
  • 最后查看是否成功安裝java -version

2. 安裝hadoop3.3.6

  • 回到/opt/software下載安裝包,執(zhí)行
wget --no-check-certificate https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/hadoop-3.3.6/hadoop-3.3.6.tar.gz
  • 解壓 tar -zxvf hadoop-3.3.6.tar.gz -C /opt/module
  • 改名 mv hadoop-3.3.6/ hadoop
  • 配置環(huán)境變量,進(jìn)入配置文件vim /etc/profile.d/my_env.sh寫入
#HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
  • 刷新當(dāng)前的shell環(huán)境 source /etc/profile
  • 最后查看是否成功安裝hadoop

其中重要目錄:

  1. bin 目錄:存放對(duì) Hadoop 相關(guān)服務(wù)( HDFS,YARN)進(jìn)行操作的腳本
  2. etc 目錄: Hadoop 的配置文件目錄,存放 Hadoop 的配置文件
  3. lib 目錄:存放 Hadoop 的本地庫(kù)(對(duì)數(shù)據(jù)進(jìn)行壓縮解壓縮功能)
  4. sbin 目錄:存放啟動(dòng)或停止 Hadoop 相關(guān)服務(wù)的腳本;share 目錄:存放 Hadoop 的依賴 jar 包、 文檔和官方案例

總結(jié)

模板機(jī)一定要按照步驟做好準(zhǔn)備,避免遺漏,否則一臺(tái)一臺(tái)改超級(jí)麻煩。

GNU Wget(常常簡(jiǎn)稱為wget)是一個(gè)網(wǎng)絡(luò)上進(jìn)行下載的簡(jiǎn)單而強(qiáng)大的自由軟件,其本身也是GNU計(jì)劃的一部分。它的名字是"World Wide Web" 和 "Get"的結(jié)合,同時(shí)也隱含了軟件的主要功能。目前它支持HTTP、HTTPS,月以及FTP這三個(gè)常見的的TCP/IP協(xié)議下載。

到這里,你肯定搭建好了hadoop運(yùn)行環(huán)境,磨刀不誤砍柴工,終于要開始學(xué)習(xí)了,下一篇將帶來Hadoop的運(yùn)行模式。文章來源地址http://www.zghlxwxcb.cn/news/detail-717116.html

到了這里,關(guān)于【大數(shù)據(jù)】hadoop運(yùn)行環(huán)境搭建(搭建如此簡(jiǎn)單)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • Hadoop(偽分布式)+Spark(local模式)搭建Hadoop和Spark組合環(huán)境

    Hadoop(偽分布式)+Spark(local模式)搭建Hadoop和Spark組合環(huán)境

    環(huán)境 使用 Ubuntu 14.04 64位 作為系統(tǒng)環(huán)境(Ubuntu 12.04,Ubuntu16.04 也行,32位、64位均可),請(qǐng)自行安裝系統(tǒng)。 Hadoop版本 : Hadoop 2.7.4 創(chuàng)建hadoop用戶 如果你安裝 Ubuntu 的時(shí)候不是用的 \\\"hadoop\\\" 用戶,那么需要增加一個(gè)名為 hadoop 的用戶。 首先按 ctrl+alt+t 打開終端窗口,輸入如下命令創(chuàng)

    2023年04月08日
    瀏覽(39)
  • 【hadoop】centos7.6+hadoop3.1.1搭建分布式hadoop環(huán)境——包含各類問題解決方案

    【hadoop】centos7.6+hadoop3.1.1搭建分布式hadoop環(huán)境——包含各類問題解決方案

    本文針對(duì)centos7.4即以上版本的hadoop環(huán)境搭建,因?yàn)檫@部分搭建是個(gè)很復(fù)雜且很容易出錯(cuò)的內(nèi)容,所以在結(jié)合了多種搭建方案后給出最適宜當(dāng)前版本的搭建。 本教程適用于CentOS 7.4即以上版本,如果是Ubuntu等其它linux內(nèi)核版本則不適合。 查看系統(tǒng)版本: 軟件 版本 獲取方法 Ope

    2024年02月16日
    瀏覽(24)
  • 【云計(jì)算平臺(tái)】Hadoop全分布式模式環(huán)境搭建

    【云計(jì)算平臺(tái)】Hadoop全分布式模式環(huán)境搭建

    此前搭建了hadoop的單機(jī)模式與偽分布式模式: 單機(jī)模式部署 偽分布式模式部署 中間拖得有點(diǎn)久了,今天索性做個(gè)了結(jié),把hadoop的全分布式模式部署的操作也簡(jiǎn)單地記錄一下,算是一個(gè)系統(tǒng)性的學(xué)習(xí)吧。 偽分布式模式是學(xué)習(xí)階段最常用的模式,它可以將進(jìn)程都運(yùn)行在同一臺(tái)機(jī)

    2023年04月08日
    瀏覽(90)
  • Linux環(huán)境搭建Hadoop及完全分布式集群

    Hadoop是一個(gè)開源的分布式計(jì)算框架,旨在處理大規(guī)模數(shù)據(jù)集和進(jìn)行并行計(jì)算。核心包括兩個(gè)組件:HFDS、MapReduce。 配置方案 各虛擬機(jī)的用戶名分別為test0、test1、test2,主機(jī)名為hadoop100、hadoop101、hadoop102 虛擬機(jī)的分配如下: hadoop100:NameNode + ResourceManager hadoop101:DataNode + NodeM

    2024年03月23日
    瀏覽(36)
  • hadoop偽分布式環(huán)境搭建,完整的詳細(xì)步驟

    hadoop偽分布式環(huán)境搭建,完整的詳細(xì)步驟

    1、VMware14 2、一臺(tái)ubtuntu 18 64位 3、主機(jī)名位master 4、ip 地址:192.168.136.31 5、本次實(shí)驗(yàn)需要的安裝包 1、 查看id 地址 2、 關(guān)閉防火墻 命令來關(guān)閉防火墻 命令查看當(dāng)前防火墻狀態(tài) 3、 修改主機(jī)名、 添加主機(jī)映射 修改虛擬機(jī)hosts文件,將ip地址添加進(jìn)來 使用 :wq 保存 測(cè)試是否修改

    2024年02月08日
    瀏覽(19)
  • 【教程】Hadoop完全分布式環(huán)境搭建全過程

    【教程】Hadoop完全分布式環(huán)境搭建全過程

    保姆級(jí)入門教程:圖片講解 + 各種問題解決方案 集群服務(wù)器:hadoop102、hadoop103和hadoop104 虛擬機(jī)版本:CentOS7-1804 資源分享處(文章最后)提供CentOS7和Hadoop各組件壓縮包(也可以自行下載,要注意版本兼容的問題),有需要自取~ 1, 模板虛擬機(jī)準(zhǔn)備 2, 克隆三臺(tái)虛擬機(jī),作為

    2024年02月06日
    瀏覽(22)
  • Hadoop運(yùn)行環(huán)境搭建

    0)安裝模板虛擬機(jī),IP 地址 192.168.10.100 、主機(jī)名稱 hadoop100 、內(nèi)存 4G 、硬盤 50G 1)hadoop100 虛擬機(jī)配置要求如下 1.使用 yum 安裝需要虛擬機(jī)可以正常上網(wǎng),yum 安裝前可以先測(cè)試下虛擬機(jī)聯(lián)網(wǎng)情 況

    2024年02月13日
    瀏覽(19)
  • 虛擬機(jī)上搭建Hadoop運(yùn)行環(huán)境

    虛擬機(jī)上搭建Hadoop運(yùn)行環(huán)境

    下載并安裝VMware,這里不做贅述,具體步驟可自行百度。 本篇文章使用的VMware15版本演示,其他版本步驟同理。 2.1硬件部分 注意:這里不能超過自己電腦內(nèi)核總數(shù) 打開任務(wù)管理器(快捷鍵 ctrl + alt +del),查看電腦內(nèi)核總數(shù): 查看到我電腦是有8個(gè)CPU內(nèi)核 假如我們未來要克隆

    2024年02月04日
    瀏覽(19)
  • Hadoop 運(yùn)行環(huán)境搭建(開發(fā)重點(diǎn))

    Hadoop 運(yùn)行環(huán)境搭建(開發(fā)重點(diǎn))

    將 hadoop 的安裝包和 jdk 的安裝包,上傳到 hadoop102 的 /opt/software 目錄下 輸入命令: tar -zxvf jdk-8u212-linux-x64.tar.gz -C /opt/ 將jdk壓縮包解壓到 /opt 目錄下 輸入命令: mv jdk1.8.0_212/ jdk1.8 包的名字太長(zhǎng)了我們給他改成 jdk1.8 然后接下來,配置jdk的環(huán)境變量 輸入命令: vim /etc/profile 添

    2024年02月07日
    瀏覽(22)
  • Hadoop——Hive運(yùn)行環(huán)境搭建

    Hadoop——Hive運(yùn)行環(huán)境搭建

    Windows:10? ? ? ? ?JDK:1.8? ? ? ? ?Apache Hadoop:2.7.0 Apache Hive:2.1.1? ? ? ? ?Apache Hive src:1.2.2? ? ? ? ?MySQL:5.7 1、下載 Hadoop搭建 Apache Hive 2.1.1:https://archive.apache.org/dist/hive/hive-2.1.1/apache-hive-2.1.1-bin.tar.gz Apache Hive 1.2.2 src:https://archive.apache.org/dist/hive/hive-1.2.2/apache-hive-1.

    2024年02月16日
    瀏覽(22)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包