国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Yarn 集群的架構(gòu)和工作原理

這篇具有很好參考價(jià)值的文章主要介紹了Yarn 集群的架構(gòu)和工作原理。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

Yarn 的基本設(shè)計(jì)思想是將 MapReduce V1 中的 JobTracker 拆分為兩個(gè)獨(dú)立的服務(wù):ResourceManager 和 ApplicationMaster。

ResourceManager 負(fù)責(zé)整個(gè)系統(tǒng)的資源管理和分配,ApplicationMaster 負(fù)責(zé)單個(gè)應(yīng)用程序的管理。

  1. ResourceManager
    RM 是一個(gè)全局的資源管理器,負(fù)責(zé)整個(gè)系統(tǒng)的資源管理和分配,它主要由兩個(gè)部分組成:調(diào)度器(Scheduler)和應(yīng)用程序管理器(Application Manager)。
    調(diào)度器:根據(jù)容量、隊(duì)列等限制條件,將系統(tǒng)中的資源分配給正在運(yùn)行的應(yīng)用程序,在保證容量、公平性和服務(wù)等級(jí)的前提下,優(yōu)化集群資源利用率,讓所有的資源都被充分利用;
    應(yīng)用程序管理器:負(fù)責(zé)管理整個(gè)系統(tǒng)中的所有的應(yīng)用程序,包括應(yīng)用程序的提交、與調(diào)度器協(xié)商資源以啟動(dòng) ApplicationMaster、監(jiān)控 ApplicationMaster 運(yùn)行狀態(tài)并在失敗時(shí)重啟它。

  2. ApplicationMaster
    用戶提交的一個(gè)應(yīng)用程序會(huì)對(duì)應(yīng)于一個(gè) ApplicationMaster,它的主要功能有:

    • 與 RM調(diào)度器協(xié)商以獲得資源,資源以 Container 表示。
    • 將得到的任務(wù)進(jìn)一步分配給內(nèi)部的任務(wù)。
    • 與 NN (NameNode)通信以啟動(dòng)/停止任務(wù)。
    • 監(jiān)控所有的內(nèi)部任務(wù)狀態(tài),并在任務(wù)運(yùn)行失敗的時(shí)候重新為任務(wù)申請(qǐng)資源以重啟任務(wù)。
  3. NodeManager
    NodeManager 是每個(gè)節(jié)點(diǎn)上的資源和任務(wù)管理器,
    一方面,它會(huì)定期地向 RM 匯報(bào)本節(jié)點(diǎn)上的資源使用情況和各個(gè) Container 的運(yùn)行狀態(tài);
    另一方面,它接收并處理來自 AM 的 Container 啟動(dòng)和停止請(qǐng)求。

  4. Container
    Container 是 Yarn 中的資源抽象,封裝了各種資源。
    一個(gè)應(yīng)用程序會(huì)分配一個(gè) Container,這個(gè)應(yīng)用程序只能使用這個(gè) Container 中描述的資源。
    不同于 MapReduce V1 中槽位 slot 的資源封裝,Container 是一個(gè)動(dòng)態(tài)資源的劃分單位,更能充分利用資源。


我們下期見,拜拜!文章來源地址http://www.zghlxwxcb.cn/news/detail-600800.html

到了這里,關(guān)于Yarn 集群的架構(gòu)和工作原理的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • Hadoop YARN HA 集群安裝部署詳細(xì)圖文教程

    Hadoop YARN HA 集群安裝部署詳細(xì)圖文教程

    目錄 一、YARN 集群角色、部署規(guī)劃 1.1?集群角色--概述 1.2?集群角色--ResourceManager(RM)? 1.3?集群角色--NodeManager(NM)? 1.4 HA?集群部署規(guī)劃 二、YARN RM?重啟機(jī)制 2.1 概述? 2.2 演示? 2.2.1?不開啟?RM?重啟機(jī)制現(xiàn)象? 2.3 兩種實(shí)現(xiàn)方案與區(qū)別? 2.3.1?Non-work-preserving RM restart 2.3.2?

    2024年02月04日
    瀏覽(53)
  • 【運(yùn)維】hadoop 集群安裝(三)hdfs、yarn集群配置、nodemanager健康管理講解

    上篇簡單說明了多節(jié)點(diǎn)的hadoop節(jié)點(diǎn)怎么安裝,但是沒有細(xì)致的分析hadoop相關(guān)配置,具體怎么根據(jù)環(huán)境進(jìn)行配置,接下來我們對(duì)這些配置進(jìn)行講解 Daemon Environment Variable NameNode HDFS_NAMENODE_OPTS DataNode HDFS_DATANODE_OPTS Secondary NameNode HDFS_SECONDARYNAMENODE_OPTS ResourceManager YARN_RESOURCEMANAGER_OP

    2024年02月10日
    瀏覽(19)
  • (十三)大數(shù)據(jù)實(shí)戰(zhàn)——hadoop集群之YARN高可用實(shí)現(xiàn)自動(dòng)故障轉(zhuǎn)移

    (十三)大數(shù)據(jù)實(shí)戰(zhàn)——hadoop集群之YARN高可用實(shí)現(xiàn)自動(dòng)故障轉(zhuǎn)移

    本節(jié)內(nèi)容是關(guān)于hadoop集群下yarn服務(wù)的高可用搭建,以及其發(fā)生故障轉(zhuǎn)移的處理,同樣需要依賴zookeeper集群的實(shí)現(xiàn),實(shí)現(xiàn)該集群搭建時(shí),我們要預(yù)先保證zookeeper集群是啟動(dòng)狀態(tài)。yarn的高可用同樣依賴zookeeper的臨時(shí)節(jié)點(diǎn)及監(jiān)控,實(shí)現(xiàn)服務(wù)的故障轉(zhuǎn)移。其ResourceManager的節(jié)點(diǎn)任務(wù)同

    2024年02月14日
    瀏覽(20)
  • 解密Hadoop生態(tài)系統(tǒng)的工作原理 - 大規(guī)模數(shù)據(jù)處理與分析

    在當(dāng)今的數(shù)字時(shí)代,大規(guī)模數(shù)據(jù)處理和分析已經(jīng)成為了企業(yè)和組織中不可或缺的一部分。為了有效地處理和分析海量的數(shù)據(jù),Hadoop生態(tài)系統(tǒng)應(yīng)運(yùn)而生。本文將深入探討Hadoop生態(tài)系統(tǒng)的工作原理,介紹其關(guān)鍵組件以及如何使用它來處理和分析大規(guī)模數(shù)據(jù)。 Hadoop是一個(gè)開源的分布

    2024年02月12日
    瀏覽(20)
  • 大數(shù)據(jù)框架之Hadoop:MapReduce(三)MapReduce框架原理——MapTask工作機(jī)制

    大數(shù)據(jù)框架之Hadoop:MapReduce(三)MapReduce框架原理——MapTask工作機(jī)制

    MapTask工作機(jī)制如下圖所示。 (1)Read階段:MapTask通過用戶編寫的RecordReader,從輸入InputSplit中解析出一個(gè)個(gè)key/value。 (2)Map階段:該節(jié)點(diǎn)主要是將解析出的key/value交給用戶編寫map()函數(shù)處理,并產(chǎn)生一系列新的key/value。 (3)Collect收集階段:在用戶編寫map()函數(shù)中,當(dāng)數(shù)據(jù)處

    2023年04月08日
    瀏覽(19)
  • 23、hadoop集群中yarn運(yùn)行mapreduce的內(nèi)存、CPU分配調(diào)度計(jì)算與優(yōu)化

    23、hadoop集群中yarn運(yùn)行mapreduce的內(nèi)存、CPU分配調(diào)度計(jì)算與優(yōu)化

    1、hadoop3.1.4簡單介紹及部署、簡單驗(yàn)證 2、HDFS操作 - shell客戶端 3、HDFS的使用(讀寫、上傳、下載、遍歷、查找文件、整個(gè)目錄拷貝、只拷貝文件、列出文件夾下文件、刪除文件及目錄、獲取文件及文件夾屬性等)-java 4、HDFS-java操作類HDFSUtil及junit測(cè)試(HDFS的常見操作以及H

    2024年02月07日
    瀏覽(24)
  • 三臺(tái)異構(gòu)服務(wù)器搭建hadoop HA集群史上最詳細(xì)方案(HDFS+YARN)

    三臺(tái)異構(gòu)服務(wù)器搭建hadoop HA集群史上最詳細(xì)方案(HDFS+YARN)

    ?一、系統(tǒng)基礎(chǔ)服務(wù)配置 主機(jī)名 IP 操作系統(tǒng) CPU 內(nèi)存 磁盤 Hive01 10.86.102.104 Centos 7.9.2009 Xeon 4208 X16 192G 46T Hive02 10.86.102.102 Centos 7.9.2009 Xeon 4208 X16 192G 46T Hive03 10.86.102.105 Centos 7.9.2009 Xeon 8260 X48 256G ? ? ? ? 11T 最終組成的是一個(gè)雙副本56T的集群,設(shè)置YARN內(nèi)存共400GB(可調(diào)) 3臺(tái)服務(wù)

    2024年02月07日
    瀏覽(19)
  • Flink、Yarn架構(gòu),以Flink on Yarn部署原理詳解

    Flink、Yarn架構(gòu),以Flink on Yarn部署原理詳解

    Apache Flink是一個(gè)開源的分布式流處理框架,它可以處理實(shí)時(shí)數(shù)據(jù)流和批處理數(shù)據(jù)。Flink的架構(gòu)原理是其實(shí)現(xiàn)的基礎(chǔ),架構(gòu)原理可以分為以下四個(gè)部分:JobManager、TaskManager、JobGraph、Checkpoint。 JobManager JobManager是Flink集群的控制節(jié)點(diǎn),負(fù)責(zé)接收用戶提交的任務(wù),將任務(wù)分配給Task

    2024年02月12日
    瀏覽(18)
  • 【大數(shù)據(jù)技術(shù)Hadoop+Spark】Spark架構(gòu)、原理、優(yōu)勢(shì)、生態(tài)系統(tǒng)等講解(圖文解釋)

    【大數(shù)據(jù)技術(shù)Hadoop+Spark】Spark架構(gòu)、原理、優(yōu)勢(shì)、生態(tài)系統(tǒng)等講解(圖文解釋)

    Spark最初由美國加州伯克利大學(xué)(UCBerkeley)的AMP(Algorithms, Machines and People)實(shí)驗(yàn)室于2009年開發(fā),是基于內(nèi)存計(jì)算的大數(shù)據(jù)并行計(jì)算框架,可用于構(gòu)建大型的、低延遲的數(shù)據(jù)分析應(yīng)用程序。Spark在誕生之初屬于研究性項(xiàng)目,其諸多核心理念均源自學(xué)術(shù)研究論文。2013年,Spark加

    2024年01月16日
    瀏覽(23)
  • 【大數(shù)據(jù)入門核心技術(shù)-ElasticSearch】(二)ElasticSearch整體架構(gòu)和重要工作原理

    目錄 一、整體架構(gòu)圖 二、重要工作原理 1、文檔寫入原理 2、文檔檢索原理

    2024年02月05日
    瀏覽(29)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包