国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Flink三種模式介紹&集群的搭建

這篇具有很好參考價(jià)值的文章主要介紹了Flink三種模式介紹&集群的搭建。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問(wèn)。

目錄

Flink是什么?

Flink部署模式

會(huì)話(huà)模式(Session Mode )

單作業(yè)模式(Per-Job Mode)

應(yīng)用模式(Application Mode)

Flink集群搭建

Standalone運(yùn)行模式?

會(huì)話(huà)模式

單作業(yè)模式部署

應(yīng)用模式部署

YARN運(yùn)行模式

?會(huì)話(huà)模式部署

單作業(yè)模式部署

應(yīng)用模式部署


Flink是什么?

Flink是“數(shù)據(jù)流上的有狀態(tài)計(jì)算”

具體說(shuō)明是:Apache Flink 是一個(gè)框架和分布式處理引擎,用于對(duì)無(wú)界和有界數(shù)據(jù)流進(jìn)行有狀態(tài)計(jì)算。

?

flink 模式,Flink,flink,大數(shù)據(jù),分布式

Flink部署模式

會(huì)話(huà)模式(Session Mode )、單作業(yè)模式(Per-Job Mode)、應(yīng)用模式(Application Mode)

它們的區(qū)別主要在于:集群的生命周期以及資源的分配方式;以及應(yīng)用的main方法到底在哪里執(zhí)行——客戶(hù)端(Client)還是JobManager。

會(huì)話(huà)模式(Session Mode )

會(huì)話(huà)模式是最符合常規(guī)思維的,我們需要先啟動(dòng)一個(gè)集群,保持一個(gè)會(huì)話(huà),在這個(gè)會(huì)話(huà)中通過(guò)客戶(hù)端提交作業(yè)。集群?jiǎn)?dòng)時(shí)所有資源就都已經(jīng)確定,所以所有提交的作業(yè)會(huì)競(jìng)爭(zhēng)集群中的資源。

flink 模式,Flink,flink,大數(shù)據(jù),分布式

?會(huì)話(huà)模式比較適用于單個(gè)規(guī)模小、執(zhí)行時(shí)間短的大量作業(yè)

單作業(yè)模式(Per-Job Mode)

單作業(yè)模式是每提交一個(gè)作業(yè)啟動(dòng)一個(gè)集群,實(shí)現(xiàn)資源的隔離。作業(yè)完成后,集群就會(huì)關(guān)閉,所有資源也會(huì)釋放。單作業(yè)模式在生產(chǎn)環(huán)境運(yùn)行更加的穩(wěn)定,所有也是實(shí)際應(yīng)用的首選模式。

flink 模式,Flink,flink,大數(shù)據(jù),分布式

Flink本身無(wú)法直接這樣運(yùn)行,需要借助一些資源管理框架來(lái)啟動(dòng)集群,比如yarn、Kubernetes(K8S)

應(yīng)用模式(Application Mode)

前面提到的兩種模式 下,應(yīng)用代碼都是在容廣端上執(zhí)行,然后由客廣端提交給JobManager。但是這種方式客戶(hù)端需要占用大量網(wǎng)絡(luò)帶寬,去下載依賴(lài)和把二進(jìn)制數(shù)據(jù)發(fā)送給JobManager;加上很多情況下我們提交作業(yè)用的是同一個(gè)客戶(hù)端,就會(huì)加重客戶(hù)端所在節(jié)點(diǎn)的資源消耗。


所以解決辦法就是,我們不要客戶(hù)端了,直接把應(yīng)用提交到JobManager 上運(yùn)行。而這也就代表著,我們需要為每一個(gè)提交的應(yīng)用單獨(dú)啟動(dòng)一個(gè)JobManager,也就是創(chuàng)建一個(gè)集群。這個(gè)JobManager只為執(zhí)行這一個(gè)應(yīng)用而存在,執(zhí)行結(jié)束之后JobManager也就關(guān)閉了,這就是所謂的應(yīng)用模式。

flink 模式,Flink,flink,大數(shù)據(jù),分布式

?應(yīng)用模式與單作業(yè)模式,都是提交作業(yè)之后才創(chuàng)建集群;單作業(yè)模式是通過(guò)客戶(hù)端來(lái)提交的,客戶(hù)端解析出的每一個(gè)作業(yè)對(duì)應(yīng)一個(gè)集群;而文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-708856.html

到了這里,關(guān)于Flink三種模式介紹&集群的搭建的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶(hù)投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 大數(shù)據(jù)Flink(五十八):Flink on Yarn的三種部署方式介紹

    大數(shù)據(jù)Flink(五十八):Flink on Yarn的三種部署方式介紹

    文章目錄 Flink on Yarn的三種部署方式介紹 一、???????Session模式

    2024年02月13日
    瀏覽(22)
  • Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive 完全分布式高可用集群搭建(保姆級(jí)超詳細(xì)含圖文)

    Zookeeper+Hadoop+Spark+Flink+Kafka+Hbase+Hive 完全分布式高可用集群搭建(保姆級(jí)超詳細(xì)含圖文)

    說(shuō)明: 本篇將詳細(xì)介紹用二進(jìn)制安裝包部署hadoop等組件,注意事項(xiàng),各組件的使用,常用的一些命令,以及在部署中遇到的問(wèn)題解決思路等等,都將詳細(xì)介紹。 ip hostname 192.168.1.11 node1 192.168.1.12 node2 192.168.1.13 node3 1.2.1系統(tǒng)版本 1.2.2內(nèi)存建議最少4g、2cpu、50G以上的磁盤(pán)容量 本次

    2024年02月12日
    瀏覽(37)
  • 大數(shù)據(jù)Flink(五十九):Flink on Yarn的三種部署方式介紹以及注意

    大數(shù)據(jù)Flink(五十九):Flink on Yarn的三種部署方式介紹以及注意

    文章目錄 Flink on Yarn的三種部署方式介紹以及注意 一、Pre-Job 模式部署作業(yè)

    2024年02月13日
    瀏覽(32)
  • 【大數(shù)據(jù)工具】Flink集群搭建

    【大數(shù)據(jù)工具】Flink集群搭建

    1. 單機(jī)版 Flink 安裝與使用 1、下載 Flink 安裝包并上傳至服務(wù)器 下載 flink-1.10.1-bin-scala_2.11.tgz 并上傳至 Hadoop0 /software 下 2、解壓 3、創(chuàng)建快捷方式 4、配置環(huán)境變量 5、啟動(dòng) 6、頁(yè)面查看: hadoop0:8081 2. Standalone 模式安裝 1、集群規(guī)劃 主機(jī)名 JobManager TaskManager hadoop1 是 是 hadoop2 是

    2024年02月08日
    瀏覽(90)
  • Flink高手之路2-Flink集群的搭建

    Flink高手之路2-Flink集群的搭建

    1.本地local模式 本地單機(jī)模式,一般用于測(cè)試環(huán)境是否搭建成功,很少使用 2.獨(dú)立集群模式standalone Flink自帶集群,開(kāi)發(fā)測(cè)試使用 3.高可用的獨(dú)立集群模式standalone HA Flink自帶集群,用于開(kāi)發(fā)測(cè)試 4.基于yarn模式Flink on yarn 計(jì)算資源統(tǒng)一交給hadoop的yarn進(jìn)行管理,用于生產(chǎn)環(huán)境 虛擬

    2024年02月05日
    瀏覽(21)
  • Flink 集群部署模式

    Flink 集群部署模式

    Flink支持多種集群部署模式,以滿(mǎn)足不同場(chǎng)景和需求。以下是Flink的主要集群部署模式: 會(huì)話(huà)模式(Session Mode) : 在會(huì)話(huà)模式下,用戶(hù)首先啟動(dòng)一個(gè)長(zhǎng)期運(yùn)行的Flink集群,然后在這個(gè)會(huì)話(huà)中提交多個(gè)作業(yè)。 集群資源在啟動(dòng)時(shí)就已經(jīng)確定,提交的作業(yè)會(huì)競(jìng)爭(zhēng)集群中的資源,直到

    2024年03月19日
    瀏覽(35)
  • Flink集群運(yùn)行模式--Standalone運(yùn)行模式

    Flink集群運(yùn)行模式--Standalone運(yùn)行模式

    ?申明: 未經(jīng)許可,禁止以任何形式轉(zhuǎn)載,若要引用,請(qǐng)標(biāo)注鏈接地址。 全文共計(jì)2391字,閱讀大概需要3分鐘 ??更多學(xué)習(xí)內(nèi)容, 歡迎??關(guān)注??【文末】我的個(gè)人微信公眾號(hào):不懂開(kāi)發(fā)的程序猿 個(gè)人網(wǎng)站:https://jerry-jy.co/ 掌握Standalone集群搭建的過(guò)程。 掌握Flink的三種部署

    2024年02月15日
    瀏覽(25)
  • Flink--2、Flink部署(Yarn集群搭建下的會(huì)話(huà)模式部署、單作業(yè)模式部署、應(yīng)用模式部署)

    Flink--2、Flink部署(Yarn集群搭建下的會(huì)話(huà)模式部署、單作業(yè)模式部署、應(yīng)用模式部署)

    ?????????????????????? 星光下的趕路人star的個(gè)人主頁(yè) ?????????????????????? 你必須贏過(guò),才可以說(shuō)不在乎輸贏 Flink提交作業(yè)和執(zhí)行任務(wù),需要幾個(gè)關(guān)鍵組件: 客戶(hù)端(Client):代碼由客戶(hù)端獲取并做轉(zhuǎn)換,之后提交給

    2024年02月09日
    瀏覽(23)
  • Flink集群搭建

    Flink集群搭建

    ?申明: 未經(jīng)許可,禁止以任何形式轉(zhuǎn)載,若要引用,請(qǐng)標(biāo)注鏈接地址。 全文共計(jì)3696字,閱讀大概需要3分鐘 ??更多學(xué)習(xí)內(nèi)容, 歡迎??關(guān)注??【文末】我的個(gè)人微信公眾號(hào):不懂開(kāi)發(fā)的程序猿 個(gè)人網(wǎng)站:https://jerry-jy.co/ 掌握Flink集群搭建的過(guò)程。 掌握Flink集群的啟動(dòng)、停

    2024年02月08日
    瀏覽(19)
  • Flink 1.17.0集群搭建

    Flink 1.17.0集群搭建

    集群角色分配 Hostname IP Role hadoop01 192.168.126.132 JobManager TaskManager hadoop02 192.168.126.133 TaskManager hadoop03 192.168.126.134 TaskManager 下載flink安裝包 https://archive.apache.org/dist/flink/flink-1.17.0/ ?上傳至hadoop01并解壓: ?修改conf/flink-conf.yaml(從flink1.16版本開(kāi)始,需要修改以下配置) 修改conf/

    2024年02月12日
    瀏覽(23)

覺(jué)得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包