国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Ambari自動部署hadoop

這篇具有很好參考價值的文章主要介紹了Ambari自動部署hadoop。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

1、Ambari介紹

Apache Ambari項(xiàng)目旨在通過開發(fā)用于配置,管理和監(jiān)控Apache Hadoop集群的軟件來簡化Hadoop管理.
Ambari提供了一個由RESTful API支持的直觀,易用的Hadoop管理Web Ul。
Ambari使系統(tǒng)管理員能夠:

提供Hadoop集群

?Ambari提供了跨任意數(shù)量的主機(jī)安裝Hadoop服務(wù)的分步向?qū)?br> Ambari處理集群的Hadoop服務(wù)配置
管理Hadoop集群
Ambari提供集中管理,用于在整個集群中啟動,停止和重新配置Hadoop服務(wù)監(jiān)控Hadoop集群
Ambari提供了一個儀表板,用于監(jiān)控Hadoop集群的運(yùn)行狀況和狀態(tài)
Ambari利用Ambari指標(biāo)系統(tǒng)進(jìn)行指標(biāo)收集
Ambari利用Ambari Alert Framework進(jìn)行系統(tǒng)警報(bào),并在需要您注意時通知您(例如,節(jié)點(diǎn)出現(xiàn)故障剩余磁盤空間不足等)。

Ambari使應(yīng)用程序開發(fā)人員和系統(tǒng)集成商能夠

使用Ambari RESTfulAPI輕松將Hadoop配置,管理和監(jiān)控功能集成到自己的應(yīng)用程序中

2、架構(gòu)

Ambari本身是一個分布式架構(gòu)軟件,主要由兩部分組成:Ambari Server和Ambari Agent。用戶通過Ambari Server通知Ambari Agent安裝對應(yīng)的軟件,Agent會定時發(fā)送各個機(jī)器每個軟件模塊的狀態(tài)給Server,最終這些狀態(tài)信息會呈現(xiàn)給Ambari的GU1,方便用戶了解到集群中各組件狀態(tài),做出相應(yīng)的維護(hù)策略。

官網(wǎng)有部署文檔

3、環(huán)境準(zhǔn)備

3.1、硬件環(huán)境

系統(tǒng)
centos7.6????????數(shù)量:7臺
?硬件????????CPU:1G????????MEM : 2G????????Disk:越大越好,最低不能低于所采集的數(shù)據(jù)量

3.2、ip分配

Ambari自動部署hadoop

?3.3、多機(jī)互信

[root@localhost ~]# ssh-keygen -t rsa -f /root/.ssh/id_rsa -N ' '

Ambari自動部署hadoop因?yàn)閟shd_config文件中有公鑰認(rèn)證規(guī)定 authorized_keys

Ambari自動部署hadoop

?修改公鑰

[root@localhost ~]# cd /root/.ssh

[root@localhost .ssh]# Is
id_rsa id_rsa.pub known_hosts
[root@localhost .ssh]# cp id_rsa.pub authorized_keys
[root@localhost .ssh]# Is

authorized_keys id_rsa id_rsa.pub ?known_hosts

[root@localhost .ssh]# rm -rf known_hosts

刪除known_hosts是因?yàn)槔锩娲鎯Φ氖侵鳈C(jī)域名信息

用for循環(huán)把公鑰復(fù)制到其他服務(wù)器
[root@localhost ~]# for i in 10 20 30 40 50 60;

do

scp -r /root/.ssh 192.168.122.$i:/root;

done

3.4、主機(jī)名及主機(jī)域名解析

[root@localhost ~]# hostnamectl?set-hostname ambari-server .a.com
[root@localhost ~]# hostnamectl set-hostname hd1.a.com

域名解析在/etc/hosts文件中需要配置域名 最好加上一個名稱

Ambari自動部署hadoop

?3.5、時間同步、firewalld、selinux狀態(tài)

1、時間同步

編輯定時任務(wù),每個小時時同步一次windows主機(jī)的時間

crontab -e

0 */1 * * *? ? ? ? ntpdate time.windows.com

2、firewalld

查看所有節(jié)點(diǎn)防火墻的狀態(tài)

[root@localhost ~]# firewall-cmd --state

not running

3、selinux

查看所有節(jié)點(diǎn)selinux的狀態(tài)

? ? ? ? getenforce

Disabled

3.6、安裝jdk

[root@ambari-server ~]# cp -r jdk1.8.0_191 /usr/local/jdk

[root@ambari-server ~]# for i in hd{1..6};

do

scp -r jdk1.8.0_191 $i:/usr/local/jdk;

done

修改環(huán)境變量

#查看文件中新增的兩條信息
[root@localhost ~]# tail -2 /etc/profile

export JAVA_HOME=/usr/local/jdk

export PATH=${JAVA_HOME}/bin:$PATH
[root@localhost ~]# source /etc/profile

最后安裝數(shù)據(jù)庫就行

3.7、創(chuàng)建ambari數(shù)據(jù)庫

agent把數(shù)據(jù)匯報(bào)server,存在數(shù)據(jù)庫里面。還有hadoop集群狀態(tài)和監(jiān)控?cái)?shù)據(jù)

Ambari自動部署hadoop

?給服務(wù)器授權(quán)訪問ambri數(shù)據(jù)庫,%是授權(quán)所有節(jié)點(diǎn)不包括本機(jī)訪問數(shù)據(jù)庫

Ambari自動部署hadoop

?數(shù)據(jù)庫都是安裝在ambari服務(wù)器上的

Ambari自動部署hadoop

?驗(yàn)證必須登錄主機(jī)ambari-server.a.com上

3.8、安裝數(shù)據(jù)庫連接工具

[root@localhost ~]#yum -y install?mysql-connector-java


3.9、安裝httpd

安裝http是為了在本地部署ambari
[root@localhost ~]# yum install?httpd

[root@localhost ~]# systemctl enable httpd

ambari的部署資源最少也是10個G,必須df -h 查看磁盤空間夠不夠

資源是從跳板機(jī)拷貝到ambari服務(wù)器

宿主機(jī)上面準(zhǔn)備好的HDP源及Ambari源復(fù)制到/var/www/html

Ambari自動部署hadoop

解壓已獲取軟件資源至/var/www/html及/var/www/html

[root@localhost ~]#tar xf ambari-2.6.1.0-centos7.tar,gz -C /var/www/html

[root@localhost ~]#tar xf HDP-2.6.4.0-centos7-rpm.tar.gz -C /var/www/html

[root@localhost ~]#tar xf HDP-UTILS-1.1.0.22-centos7.tar.gz -C /var/ww/html

[root@localhost ~]#tar xf HDP-GPL-2.6.4.0-centos7-rpm.tar.gz -C /var/www/html

3.10、安裝yum源

第一步:拷貝本地的repo,也可以用官網(wǎng)的

Ambari自動部署hadoop

?ambari.repo是安裝agent和server的

第二步:分別配置ambari.repo和hdp.repo,只需要修改ambari-server域名即可

Ambari自動部署hadoop

?第三步:把repo配置拷貝到其他節(jié)點(diǎn)

Ambari自動部署hadoop

?第四步、部署ambari

Ambari自動部署hadoop

?直接在ambari-server安裝yum -y ambari-server

其他節(jié)點(diǎn)安裝ambari-agent即可

初始化ambari-server

初始化前導(dǎo)入ambari-server

Ambari自動部署hadoop

初始化ambari-server

Ambari自動部署hadoop

?初始化失敗可以重新初始化ambari-server resetAmbari自動部署hadoop

啟動ambari-server

Ambari自動部署hadoop

?如果8080端口是開啟的一般來說不會報(bào)錯,還可以設(shè)置開機(jī)自啟動:chkconfig ambari-server on

訪問ambari也是通過8080端口,用戶名和密碼都是admin?

ambari-agent配置及啟動

ambari-agent啟動前必須查看openssl的版本是否過低,rpm -qa |grep openssl? 必須在1.0.2以上

禁用https驗(yàn)證方式(所有agent主機(jī))

Ambari自動部署hadoop

?把配置文件上傳到其他服務(wù)器

Ambari自動部署hadoop

?修改ambari-agent配置文件的【security】選項(xiàng)

Ambari自動部署hadoop

?scp上傳本地配置文件到其他服務(wù)器Ambari自動部署hadoop

?啟動所有的ambari-agent

Ambari自動部署hadoop

?文章來源地址http://www.zghlxwxcb.cn/news/detail-510847.html

4、部署hadoop

第一步:創(chuàng)建hadoop集群

Ambari自動部署hadoop

?第二步:選擇安裝hadoop集群的包組

Ambari自動部署hadoop

?第三步:配置yum源

把烏班圖等無關(guān)的yum源remove,因?yàn)閏entos是redhat的復(fù)刻版本(紅帽發(fā)行6個月之后就會復(fù)刻一版centos)

Ambari自動部署hadoop

?cat /etc/yum.repos.d/hdp.repo

Ambari自動部署hadoop

第四步:配置安裝選項(xiàng)

使用完全合格域名部署 hadoop集群Ambari自動部署hadoop

?配置ssh私鑰免密

Ambari自動部署hadoop

Ambari自動部署hadoop

?第五步:注冊并確認(rèn)部署hadoop集群的主機(jī)信息

installing狀態(tài)是在安裝hadoop-agent

registering狀態(tài)是在注冊hadoop-server

success才是成功部署hadoop集群

第六步:選擇文件系統(tǒng)和勾選服務(wù)

Ambari自動部署hadoop

?zookeeper和Ambari Metrics都是監(jiān)控集群的Ambari自動部署hadoop

?Ambari自動部署hadoop

?第七步:選主、從服務(wù)器并配置

選主

Ambari自動部署hadoop

?選從

Ambari自動部署hadoop

?第八步:服務(wù)器配置

設(shè)置密碼

Ambari自動部署hadoop

?Ambari自動部署hadoop

?最后點(diǎn)擊deploy部署

5、驗(yàn)證

所有已安裝hdfs客戶端的主機(jī)均可進(jìn)行驗(yàn)證

切換用戶 hdfs調(diào)用yarn框架中的jar包進(jìn)行詞頻統(tǒng)計(jì)測試hadoop集群是否可用

Ambari自動部署hadoop

?Ambari自動部署hadoop

?

到了這里,關(guān)于Ambari自動部署hadoop的文章就介紹完了。如果您還想了解更多內(nèi)容,請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 【項(xiàng)目部署-apache】windows系統(tǒng)下apache部署django+channels

    1、原生的python3.8.5(默認(rèn)安裝,不更改安裝目錄),不要使用Anaconda做虛擬環(huán)境。 2、在windows系統(tǒng)下需要,mod_wsgi 模塊。 創(chuàng)建虛擬環(huán)境:(在當(dāng)前目錄下創(chuàng)建名為 gzgs_alert 的虛擬環(huán)境) 激活gzgs_alert 虛擬環(huán)境,安裝mod_wsgi: whl文件下載: 復(fù)制文件到虛擬環(huán)境的Scripts目錄下: cmd進(jìn)

    2024年04月26日
    瀏覽(29)
  • Apache DolphinScheduler 如何實(shí)現(xiàn)自動化打包+單機(jī)/集群部署?

    Apache DolphinScheduler 如何實(shí)現(xiàn)自動化打包+單機(jī)/集群部署?

    Apache DolphinScheduler 是一款開源的分布式任務(wù)調(diào)度系統(tǒng),旨在幫助用戶實(shí)現(xiàn)復(fù)雜任務(wù)的自動化調(diào)度和管理。DolphinScheduler 支持多種任務(wù)類型,可以在單機(jī)或集群環(huán)境下運(yùn)行。下面將介紹如何實(shí)現(xiàn) DolphinScheduler 的自動化打包和單機(jī)/集群部署。 所需環(huán)境:maven、jdk 執(zhí)行以下shell完成

    2024年02月09日
    瀏覽(25)
  • 手把手教你在linux中部署hadoop以及hadoop功能介紹

    手把手教你在linux中部署hadoop以及hadoop功能介紹

    我們在學(xué)大數(shù)據(jù)的時候hadoop是躲避不開的地方,所以如何在linux中部署hadoop,下面就是手把手教你如何部署hadoop。你只要復(fù)制粘體,然后按enter鍵就可以了。 準(zhǔn)備: ? 安裝Linux版本的服務(wù)器??梢詤⒖贾星鞍氩糠职惭b服務(wù)器的內(nèi)容即可:VM部署CentOS并且設(shè)置網(wǎng)絡(luò)_ZeroMaster的博客

    2024年02月03日
    瀏覽(32)
  • idea運(yùn)行spark項(xiàng)目報(bào)錯:org.apache.hadoop.io.nativeio.NativeIO$Windows.createDirectoryWithMode0

    idea運(yùn)行spark項(xiàng)目報(bào)錯:org.apache.hadoop.io.nativeio.NativeIO$Windows.createDirectoryWithMode0

    使用idea運(yùn)行spark項(xiàng)目wordcount出現(xiàn)此類錯誤:org.apache.hadoop.io.nativeio.NativeIO$Windows.createDirectoryWithMode0 解決方法如下: 1.確保安裝了hadoop。我使用的spark和hadoop版本都是3.3.2,配置環(huán)境變量HADOOP_HOME=D:hadoop-3.3.2,還要注意Path變量要加入%HADOOP_HOME%bin。 2.還要安裝hadoop windows的winuti

    2024年02月12日
    瀏覽(25)
  • 1、hadoop3.1.4簡單介紹及部署、簡單驗(yàn)證

    1、hadoop3.1.4簡單介紹及部署、簡單驗(yàn)證

    1、hadoop3.1.4簡單介紹及部署、簡單驗(yàn)證 2、HDFS操作 - shell客戶端 3、HDFS的使用(讀寫、上傳、下載、遍歷、查找文件、整個目錄拷貝、只拷貝文件、列出文件夾下文件、刪除文件及目錄、獲取文件及文件夾屬性等)-java 4、HDFS-java操作類HDFSUtil及junit測試(HDFS的常見操作以及H

    2024年02月07日
    瀏覽(28)
  • Hadoop3.0大數(shù)據(jù)處理學(xué)習(xí)1(Haddop介紹、部署、Hive部署)

    Hadoop3.0大數(shù)據(jù)處理學(xué)習(xí)1(Haddop介紹、部署、Hive部署)

    學(xué)習(xí)步驟: 三大組件的基本理論和實(shí)際操作 Hadoop3的使用,實(shí)際開發(fā)流程 結(jié)合具體問題,提供排查思路 開發(fā)技術(shù)棧: Linux基礎(chǔ)操作、Sehll腳本基礎(chǔ) JavaSE、Idea操作 MySQL Hadoop是一個適合海量數(shù)據(jù)存儲與計(jì)算的平臺。是基于Google的GoogleFS、Map Reduce、BigTable實(shí)現(xiàn)的。 移動數(shù)據(jù):數(shù)據(jù)

    2024年02月08日
    瀏覽(55)
  • Ambari+Bigtop大數(shù)據(jù)平臺安裝部署指南(Centos7)一

    Ambari+Bigtop大數(shù)據(jù)平臺安裝部署指南(Centos7)一

    安裝部署分為以下五個大步驟 1.資源準(zhǔn)備 2.操作系統(tǒng)配置 3.數(shù)據(jù)庫配置 4.ambari配置 5.bigtop組件安裝 all?表示全部主機(jī)都要執(zhí)行 server表示ambari-server安裝的主機(jī)執(zhí)行 ${key}表示需要根據(jù)實(shí)際情況修改的變量,例如 $ {server.ip} 應(yīng)替換成server所在主機(jī)的ip,所有變量均會標(biāo)紅 需要準(zhǔn)備

    2024年02月07日
    瀏覽(24)
  • 【Ambari】HDP單機(jī)自動化安裝(基礎(chǔ)環(huán)境和MySQL腳本一鍵安裝)

    【Ambari】HDP單機(jī)自動化安裝(基礎(chǔ)環(huán)境和MySQL腳本一鍵安裝)

    ?? 個人主頁 ——??開著拖拉機(jī)回家_Linux,大數(shù)據(jù)運(yùn)維-CSDN博客 ????? ???????????????? ?????????????? ???????????????????????? 感謝點(diǎn)贊和關(guān)注 ,每天進(jìn)步一點(diǎn)點(diǎn)!加油! 目錄 一、版本信息 1.1大數(shù)據(jù)組件版本 1.2Apache Components 1.3Databases支持版本

    2024年02月05日
    瀏覽(24)
  • Apache DolphinScheduler 3.1.8 保姆級教程【安裝、介紹、項(xiàng)目運(yùn)用、郵箱預(yù)警設(shè)置】輕松拿捏!

    Apache DolphinScheduler 是一個分布式易擴(kuò)展的可視化 DAG 工作流任務(wù)調(diào)度開源系統(tǒng)。適用于企業(yè)級場景,提供了一個可視化操作任務(wù)、工作流和全生命周期數(shù)據(jù)處理過程的解決方案。 Apache DolphinScheduler 旨在解決復(fù)雜的大數(shù)據(jù)任務(wù)依賴關(guān)系,并為應(yīng)用程序提供數(shù)據(jù)和各種 OPS 編排中

    2024年01月16日
    瀏覽(38)
  • 前端項(xiàng)目自動化部署

    前端項(xiàng)目自動化部署

    一、Git倉庫管理項(xiàng)目 二、購買云服務(wù)器 三、搭建服務(wù)器環(huán)境(重點(diǎn)) 四、Jenkins進(jìn)行自動化部署(重點(diǎn)) 提示:本地項(xiàng)目自動化部署流程,如下圖 一、Git倉庫管理項(xiàng)目 Git的安裝和配置在這里就不做說明了 1、首先在Git倉庫中創(chuàng)建一個倉庫,用來保存本地項(xiàng)目,這里使用Git

    2024年02月15日
    瀏覽(22)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包