国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Flink狀態(tài)容錯(cuò)savepoint與checkpoint

這篇具有很好參考價(jià)值的文章主要介紹了Flink狀態(tài)容錯(cuò)savepoint與checkpoint。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問(wèn)。

本文目錄

  • Checkpoints

    • State Backends

  • Savepoints

  • Checkpoints 與 Savepoints區(qū)別

Flink可以保證exactly once,與其容錯(cuò)機(jī)制checkpoint和savepoint分不開(kāi)的。本文主要講解兩者的機(jī)制與使用,同時(shí)會(huì)對(duì)比兩者的區(qū)別。

Checkpoints

Checkpoint 使 Flink 的狀態(tài)具有良好的容錯(cuò)性,通過(guò) checkpoint 機(jī)制,F(xiàn)link 可以對(duì)作業(yè)的狀態(tài)和計(jì)算位置進(jìn)行恢復(fù)。Flink 中的每個(gè)方法或算子都能夠是有狀態(tài)的,狀態(tài)化的方法在處理單個(gè) 元素/事件 的時(shí)候存儲(chǔ)數(shù)據(jù),讓狀態(tài)成為使各個(gè)類(lèi)型的算子更加精細(xì)的重要部分。為了讓狀態(tài)容錯(cuò),F(xiàn)link 需要為狀態(tài)添加 checkpoint(檢查點(diǎn))。Checkpoint 使得 Flink 能夠恢復(fù)狀態(tài)和在流中的位置,從而向應(yīng)用提供和無(wú)故障執(zhí)行時(shí)一樣的語(yǔ)義。

Flink 的 checkpoint 機(jī)制會(huì)和持久化存儲(chǔ)進(jìn)行交互,讀寫(xiě)流與狀態(tài)。一般需要:

  • 一個(gè)能夠回放一段時(shí)間內(nèi)數(shù)據(jù)的持久化數(shù)據(jù)源,例如持久化消息隊(duì)列(例如 Apache Kafka、RabbitMQ、 Amazon Kinesis、 Google PubSub 等)或文件系統(tǒng)(例如 HDFS、 S3、 GFS、 NFS、 Ceph 等)。

  • 存放狀態(tài)的持久化存儲(chǔ),通常為分布式文件系統(tǒng)(比如 HDFS、 S3、 GFS、 NFS、 Ceph 等)。文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-775916.html

1.

到了這里,關(guān)于Flink狀態(tài)容錯(cuò)savepoint與checkpoint的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • Flink理論—容錯(cuò)之狀態(tài)

    Flink理論—容錯(cuò)之狀態(tài)

    在 Flink 的框架中,進(jìn)行有狀態(tài)的計(jì)算是 Flink 最重要的特性之一。所謂的 狀態(tài),其實(shí)指的是 Flink 程序的中間計(jì)算結(jié)果 。Flink 支持了不同類(lèi)型的狀態(tài),并且針對(duì)狀態(tài)的持久化還提供了專(zhuān)門(mén)的機(jī)制和狀態(tài)管理器。 Flink 使用流重放 和 檢查點(diǎn) 的組合來(lái)實(shí)現(xiàn)容錯(cuò)。檢查點(diǎn)標(biāo)記每個(gè)輸

    2024年02月20日
    瀏覽(22)
  • Flink|《Flink 官方文檔 - DataStream API - 狀態(tài)與容錯(cuò) - 使用狀態(tài)》學(xué)習(xí)筆記

    學(xué)習(xí)文檔:Flink 官方文檔 - DataStream API - 狀態(tài)與容錯(cuò) - 使用狀態(tài) 相關(guān)文檔: 有狀態(tài)流處理背后的概念:Flink|《Flink 官方文檔 - 概念透析 - 有狀態(tài)流處理》學(xué)習(xí)筆記 Redis 過(guò)期 key 的刪除機(jī)制:Redis|過(guò)期 key 的刪除機(jī)制 學(xué)習(xí)筆記如下: 如果要使用鍵控狀態(tài),則必須要為 DataS

    2024年02月03日
    瀏覽(43)
  • 【Flink狀態(tài)管理五】Checkpoint的設(shè)計(jì)與實(shí)現(xiàn)

    【Flink狀態(tài)管理五】Checkpoint的設(shè)計(jì)與實(shí)現(xiàn)

    由于系統(tǒng)原因?qū)е翭link作業(yè)無(wú)法正常運(yùn)行的情況非常多,且很多時(shí)候都是無(wú)法避免的。對(duì)于Flink集群來(lái)講,能夠快速?gòu)漠惓顟B(tài)中恢復(fù),同時(shí)保證處理數(shù)據(jù)的正確性和一致性非常重要。Flink主要借助Checkpoint的方式保障整個(gè)系統(tǒng)狀態(tài)數(shù)據(jù)的一致性,也就是基于ABS算法實(shí)現(xiàn)輕量級(jí)快

    2024年02月21日
    瀏覽(21)
  • flink如何利用checkpoint保證數(shù)據(jù)狀態(tài)一致性

    flink如何利用checkpoint保證數(shù)據(jù)狀態(tài)一致性

    這本質(zhì)上是一『盡力而為』的方法。保證數(shù)據(jù)或事件最多由應(yīng)用程序中的所有算子處理一次。 這意味著如果數(shù)據(jù)在被流應(yīng)用程序完全處理之前發(fā)生丟失,則不會(huì)進(jìn)行其他重試或者重新發(fā)送。下圖中的例子說(shuō)明了這種情況。 應(yīng)用程序中的所有算子都保證數(shù)據(jù)或事件至少被處理

    2024年02月21日
    瀏覽(35)
  • 209.Flink(四):狀態(tài),按鍵分區(qū),算子狀態(tài),狀態(tài)后端。容錯(cuò)機(jī)制,檢查點(diǎn),保存點(diǎn)。狀態(tài)一致性。flink與kafka整合

    算子任務(wù)可以分為有狀態(tài)、無(wú)狀態(tài)兩種。 無(wú)狀態(tài):filter,map這種,每次都是獨(dú)立事件 有狀態(tài):sum這種,每次處理數(shù)據(jù)需要額外一個(gè)狀態(tài)值來(lái)輔助。這個(gè)額外的值就叫“狀態(tài)” (1)托管狀態(tài)(Managed State)和原始狀態(tài)(Raw State) 托管狀態(tài) 就是由Flink統(tǒng)一管理的,狀態(tài)的存儲(chǔ)訪問(wèn)

    2024年02月06日
    瀏覽(22)
  • Flink理論—容錯(cuò)之狀態(tài)后端(State Backends)

    Flink理論—容錯(cuò)之狀態(tài)后端(State Backends)

    Flink 使用流重放 和 檢查點(diǎn) 的組合來(lái)實(shí)現(xiàn)容錯(cuò)。檢查點(diǎn)標(biāo)記每個(gè)輸入流中的特定點(diǎn)以及每個(gè)運(yùn)算符的相應(yīng)狀態(tài)。通過(guò)恢復(fù)運(yùn)算符的狀態(tài)并從檢查點(diǎn)點(diǎn)重放記錄,可以從檢查點(diǎn)恢復(fù)流數(shù)據(jù)流,同時(shí)保持一致性 容錯(cuò)機(jī)制不斷地繪制分布式流數(shù)據(jù)流的快照。對(duì)于小狀態(tài)的流式應(yīng)用程

    2024年02月20日
    瀏覽(24)
  • Flink分流,合流,狀態(tài),checkpoint和精準(zhǔn)一次筆記

    第8章 分流 1.使用側(cè)輸出流 2.合流 2.1 union :使用 ProcessFunction 處理合流后的數(shù)據(jù) 2.2 Connect : 兩條流的格式可以不一樣, map操作使用CoMapFunction,process 傳入:CoProcessFunction 2.2 BroadcastConnectedStream keyBy 進(jìn)行了按鍵分區(qū),那么要傳入的就是 KeyedBroadcastProcessFunction; 如果沒(méi)有按鍵分

    2024年02月12日
    瀏覽(22)
  • 【Flink狀態(tài)管理(六)】Checkpoint的觸發(fā)方式(1)通過(guò)CheckpointCoordinator觸發(fā)算子的Checkpoint操作

    Checkpoint的觸發(fā)方式有兩種 一種是數(shù)據(jù)源節(jié)點(diǎn)中的Checkpoint操作觸發(fā),通過(guò)CheckpointCoordinator組件進(jìn)行協(xié)調(diào)和控制。 CheckpointCoordinator通過(guò)注冊(cè)定時(shí)器的方式按照 配置的時(shí)間間隔觸發(fā)數(shù)據(jù)源節(jié)點(diǎn)的Checkpoint操作 。數(shù)據(jù)源節(jié)點(diǎn)會(huì)向下游算子發(fā)出Checkpoint Barrier事件,供下游節(jié)點(diǎn)使用。

    2024年02月21日
    瀏覽(27)
  • Flink---13、容錯(cuò)機(jī)制(檢查點(diǎn)(保存、恢復(fù)、算法、配置)、狀態(tài)一致性、端到端精確一次)

    Flink---13、容錯(cuò)機(jī)制(檢查點(diǎn)(保存、恢復(fù)、算法、配置)、狀態(tài)一致性、端到端精確一次)

    ?????????????????????? 星光下的趕路人star的個(gè)人主頁(yè) ?????????????????????? 大鵬一日同風(fēng)起,扶搖直上九萬(wàn)里 在Flink中,有一套完整的容錯(cuò)機(jī)制來(lái)保證故障后的恢復(fù),其中最重要的就是檢查點(diǎn)。 1.1.1 檢查點(diǎn)的保存 1、周

    2024年02月08日
    瀏覽(24)
  • Flink復(fù)習(xí)3-2-4-6-1(v1.17.0): 應(yīng)用開(kāi)發(fā) - DataStream API - 狀態(tài)和容錯(cuò) - 數(shù)據(jù)類(lèi)型&序列化 - 概述

    Apache Flink handles data types and serialization in a unique way, containing its own type descriptors, generic type extraction, and type serialization framework. This document describes the concepts and the rationale behind them. Apache Flink以獨(dú)特的方式處理數(shù)據(jù)類(lèi)型和序列化,包含自己的類(lèi)型描述符、泛型類(lèi)型提取和類(lèi)型序列化

    2024年02月12日
    瀏覽(25)

覺(jué)得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包