国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Hadoop YARN功能介紹--資源管理、調(diào)度任務(wù)

這篇具有很好參考價值的文章主要介紹了Hadoop YARN功能介紹--資源管理、調(diào)度任務(wù)。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點(diǎn)擊"舉報違法"按鈕提交疑問。

Hadoop YRAN介紹

YARN是一個通用資源管理系統(tǒng)平臺和調(diào)度平臺,可為上層應(yīng)用提供統(tǒng)一的資源管理和 調(diào)度。

他的引入為集群在利用率、資源統(tǒng)一管理和數(shù)據(jù)共享等方面帶來了好處。

1.資源管理系統(tǒng)

集群的硬件資源,和程序運(yùn)行無關(guān),比如內(nèi)存、cup

2.調(diào)度平臺

資源如何分配

3.通用

支持各種計(jì)算程序

YARN架構(gòu)、組件

ResourceManager(物理層面集群)

RM是YARN集群的主角色,決定系統(tǒng)中所有應(yīng)用之間資源分配的最終權(quán)限,即最終仲裁者。

NodeManager

YARN的從角色,一個機(jī)器上一個,負(fù)責(zé)管理本機(jī)器上的計(jì)算機(jī)資源。

AplicationMaster(App層面集群)

用戶提交均包含一個AM應(yīng)用程序的老大,負(fù)責(zé)程序的內(nèi)部各階段的資源申請,監(jiān)督程序的執(zhí)行情況

Client

Contairner容器(資源的抽象)

程序提交YARN集群交互流程

MR作業(yè)提交 Clinet—>RM

資源的申請MrAppMaster-->RM

MR作業(yè)狀態(tài)匯報Container-->Container

節(jié)點(diǎn)的狀態(tài)匯報 NM--RM、

當(dāng)用戶提交向YARN中提交了一個應(yīng)用程序之后,YRAN將分為兩個階段該應(yīng)用程序

第一個階段客戶端申請資源啟動運(yùn)行本次程序的ApplicationMaster

第二個階段是由ApplicationMaster根據(jù)本次程序內(nèi)部情況,為它申請資源,并監(jiān)控整個運(yùn)行過程。直到運(yùn)行完成

第三階段ApplicationMaster啟動成功之后,首先向ResourceManager注冊并保持通信,這樣用戶通過ResourceManager查看應(yīng)用程序運(yùn)行狀態(tài)

第四階段AM為本次程序內(nèi)部的各個TASK任務(wù)向RM申請資源,并監(jiān)控他的運(yùn)行狀態(tài)

第五個階段一旦ApplicationMAster申請到資源后,便與對應(yīng)的NodeMAster通信,要求啟動任務(wù)

第六階段NodeManager為任務(wù)設(shè)置好運(yùn)行環(huán)境后,將任務(wù)啟動命令寫到一個腳本中,并通過運(yùn)行改腳本啟動任務(wù)。

第七個階段各個任務(wù)通過RPC協(xié)議向ApplicationMaster匯報自己的狀態(tài)和進(jìn)度

第八個階段應(yīng)用程序 運(yùn)行完成后,ApplicationMaster向ResourceManager注銷并關(guān)閉自己

YARN資源調(diào)度器

FIFOSchedule(先進(jìn)先出調(diào)度器)Capacity Scheduler(容量調(diào)度器)Fair Schedule(公平調(diào)度器)

Apache版本默認(rèn)使用Capacity Schedule調(diào)度器

如果需要使用其他的調(diào)度器 可以在Yarn--site.xml中的yarn.Resource.Schedule.class 進(jìn)行配置文章來源地址http://www.zghlxwxcb.cn/news/detail-734308.html

FIFOSchedule(先進(jìn)先出調(diào)度器)

Capacity Scheduler(容量調(diào)度器)

Fair Schedule(公平調(diào)度器)

到了這里,關(guān)于Hadoop YARN功能介紹--資源管理、調(diào)度任務(wù)的文章就介紹完了。如果您還想了解更多內(nèi)容,請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請點(diǎn)擊違法舉報進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 【云計(jì)算與大數(shù)據(jù)技術(shù)】資源管理、調(diào)度模型策略的講解

    【云計(jì)算與大數(shù)據(jù)技術(shù)】資源管理、調(diào)度模型策略的講解

    集群資源管理模型通常由兩個部分組成,即資源表示模型和資源分配模型,由于這兩個部分是耦合的,所有優(yōu)化集群資源管理時需要同時結(jié)合這兩個部分考慮,資源表示模型用于描述集群資源的組織方式,是集群資源統(tǒng)一管理的基礎(chǔ),從狹義上來講,計(jì)算資源是指具有計(jì)算能

    2024年02月21日
    瀏覽(32)
  • 【基于容器的部署、擴(kuò)展和管理】3.7 資源調(diào)度和優(yōu)化

    往期回顧: 第一章:【云原生概念和技術(shù)】 第二章:【容器化應(yīng)用程序設(shè)計(jì)和開發(fā)】 第三章:【3.1 容器編排系統(tǒng)和Kubernetes集群的構(gòu)建】 第三章:【3.2 基于容器的應(yīng)用程序部署和升級】 第三章:【3.3 自動化擴(kuò)展和負(fù)載均衡】 第三章:【3.4 灰度發(fā)布和A/B測試】 第三章:【

    2024年02月08日
    瀏覽(15)
  • 高可用性網(wǎng)絡(luò)資源的調(diào)度與管理:Zookeeper的實(shí)踐與優(yōu)化

    作者:禪與計(jì)算機(jī)程序設(shè)計(jì)藝術(shù) 標(biāo)題:高可用性網(wǎng)絡(luò)資源的調(diào)度與管理:Zookeeper 的實(shí)踐與優(yōu)化 一、引言 1.1. 背景介紹 隨著互聯(lián)網(wǎng)業(yè)務(wù)的快速發(fā)展,分布式系統(tǒng)在大型企業(yè)中的應(yīng)用越來越廣泛。在這些分布式系統(tǒng)中,網(wǎng)絡(luò)資源調(diào)度管理是保證系統(tǒng)穩(wěn)定運(yùn)行的關(guān)鍵環(huán)節(jié)。傳統(tǒng)網(wǎng)

    2024年02月12日
    瀏覽(23)
  • Hadoop3.0大數(shù)據(jù)處理學(xué)習(xí)3(MapReduce原理分析、日志歸集、序列化機(jī)制、Yarn資源調(diào)度器)

    Hadoop3.0大數(shù)據(jù)處理學(xué)習(xí)3(MapReduce原理分析、日志歸集、序列化機(jī)制、Yarn資源調(diào)度器)

    前言:如果想知道一堆牌中有多少張紅桃,直接的方式是一張張的檢查,并數(shù)出有多少張紅桃。 而MapReduce的方法是,給所有的節(jié)點(diǎn)分配這堆牌,讓每個節(jié)點(diǎn)計(jì)算自己手中有幾張是紅桃,然后將這個數(shù)匯總,得到結(jié)果。 官方介紹:MapReduce是一種分布式計(jì)算模型,由Google提出,

    2024年02月08日
    瀏覽(45)
  • 中移鏈資源管理介紹

    中移鏈資源管理介紹

    中移鏈?zhǔn)腔贓OS底層框架,在滿足我國信息化監(jiān)管需求、合規(guī)可控的前提下,打造的中國移動區(qū)塊鏈服務(wù)平臺。在中移鏈中主要包括CPU、RAM和NET三種資源。CPU資源是用于執(zhí)行智能合約的計(jì)算能力,RAM資源用于存儲智能合約和其它數(shù)據(jù),NET資源則是用于處理網(wǎng)絡(luò)通信,中移鏈賬

    2024年02月17日
    瀏覽(19)
  • K8s學(xué)習(xí)(二)Kubernetest的資源管理及五大資源介紹

    K8s學(xué)習(xí)(二)Kubernetest的資源管理及五大資源介紹

    本文是k8s學(xué)習(xí)系列文章,前后串起來是一個完整的課程(學(xué)習(xí)筆記),本文記錄k8s的資源管理方式及五大類資源的具體管理命令,看完本文基本上就能實(shí)現(xiàn)k8s的基本操作,可以獨(dú)立部署小型項(xiàng)目了。 前期文章連接: 從零開始搭建kubernetes集群環(huán)境(虛擬機(jī)/kubeadm方式) 總結(jié):

    2024年01月16日
    瀏覽(25)
  • 軟件資源管理下載系統(tǒng)全新帶勛章功能 + Uniapp前端

    軟件資源管理下載系統(tǒng)全新帶勛章功能 + Uniapp前端

    測試環(huán)境:php7.1。ng1.2,MySQL 5.6 常見問題: 配置好登錄后轉(zhuǎn)圈圈,檢查環(huán)境及偽靜態(tài)以及后臺創(chuàng)建好應(yīng)用 上傳圖片不了,檢查php拓展fileinfo 以及public文件權(quán)限 App個人主頁隨機(jī)背景圖,在前端uitl文件夾里面的第一個js里面替換隨機(jī)背景圖api即可顯示 前端 搭建好后臺 在前端找

    2024年01月21日
    瀏覽(19)
  • 項(xiàng)目全生命周期管理、資產(chǎn)成果沉淀展示、算力資源靈活調(diào)度丨ModelWhale 云端協(xié)同創(chuàng)新平臺全面賦能數(shù)據(jù)驅(qū)動科研工作

    項(xiàng)目全生命周期管理、資產(chǎn)成果沉淀展示、算力資源靈活調(diào)度丨ModelWhale 云端協(xié)同創(chuàng)新平臺全面賦能數(shù)據(jù)驅(qū)動科研工作

    新基建的浪潮如火如荼,國家頂層政策的引導(dǎo)不僅支持著由數(shù)據(jù)驅(qū)動各垂直領(lǐng)域中的新興商業(yè)市場,也為相關(guān)科研市場的發(fā)展提供了眾多機(jī)遇。 但持續(xù)的發(fā)展也帶來了新的問題, 傳統(tǒng)基礎(chǔ)設(shè)施已逐漸不能響應(yīng)新興數(shù)據(jù)驅(qū)動研究所需的軟硬件支持。 本文將從此類問題出發(fā),為

    2024年02月09日
    瀏覽(24)
  • 甘特圖工具DHTMLX Gantt 8.0搶先看, 改進(jìn)的資源管理、更新的自動計(jì)劃等功能,一起查閱吧

    甘特圖工具DHTMLX Gantt 8.0搶先看, 改進(jìn)的資源管理、更新的自動計(jì)劃等功能,一起查閱吧

    DHTMLX Gantt是用于跨瀏覽器和跨平臺應(yīng)用程序的功能齊全的Gantt圖表??蓾M足項(xiàng)目管理應(yīng)用程序的大部分開發(fā)需求,具備完善的甘特圖圖表庫,功能強(qiáng)大,價格便宜,提供豐富而靈活的JavaScript API接口,與各種服務(wù)器端技術(shù)(PHP,ASP.NET,Java等)簡單集成,滿足多種定制開發(fā)需求

    2023年04月08日
    瀏覽(30)
  • 【03Eclipse 窗口說明】對每個窗口和視圖的功能和用途的詳細(xì)說明導(dǎo)航欄編輯器窗口項(xiàng)目資源管理器

    【03Eclipse 窗口說明】對每個窗口和視圖的功能和用途的詳細(xì)說明導(dǎo)航欄編輯器窗口項(xiàng)目資源管理器

    Eclipse 是一款功能強(qiáng)大的集成開發(fā)環(huán)境(IDE),提供了豐富的窗口和視圖來支持開發(fā)工作。本教程將詳細(xì)介紹 Eclipse 主要窗口和常見視圖的功能和用途。 1. 導(dǎo)航欄 導(dǎo)航欄位于 Eclipse 窗口的頂部,包含了各種菜單和工具欄,用于導(dǎo)航和執(zhí)行操作。 2. 編輯器窗口 編輯器窗口是您

    2024年02月08日
    瀏覽(22)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包