国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

flink生成水位線(xiàn)記錄方式--周期性水位線(xiàn)生成器

這篇具有很好參考價(jià)值的文章主要介紹了flink生成水位線(xiàn)記錄方式--周期性水位線(xiàn)生成器。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問(wèn)。

背景

在flink基于事件的時(shí)間處理中,水位線(xiàn)記錄的生成是一個(gè)很重要的環(huán)節(jié),本文就來(lái)記錄下幾種水位線(xiàn)記錄的生成方式的其中一種:周期性水位線(xiàn)生成器

周期性水位線(xiàn)生成器

1.1 BoundedOutOfOrdernessTimeStampExtractor 他會(huì)接收一個(gè)表示最大延遲的參數(shù),比如1分鐘,意味著如果到達(dá)的元素的事件時(shí)間和之前到達(dá)的元素的最大時(shí)間戳小于1分鐘,那么還可以對(duì)這個(gè)元素進(jìn)行正常的處理,例如歸入正常的窗口中等待處理等,如果超過(guò)1分鐘,那么這個(gè)元素本應(yīng)參與的計(jì)算已經(jīng)完成并發(fā)出結(jié)果,這個(gè)元素現(xiàn)在就是屬于遲到元素。這個(gè)生成器的代碼和下面代碼類(lèi)似:

public class SelfAssigner extends AssignerWithPeriodicWaterMark{
public static long delay = 60000; //1分鐘
public long maxTs=0;//已經(jīng)到達(dá)的元素的最大時(shí)間戳

public long extractTimeStamp(Event event){
maxTs = Max(maxTs, event.getTimeStamp);
return event.getTimeStamp();
}

public long getCurrentWaterMark(){
	return maxTs - delay;//具有1分鐘容忍度的水位線(xiàn)
}
}

1.2 直接使用assignAsendingTimeStamp分配器生成水位線(xiàn),它適用于輸入的事件的時(shí)間戳是單調(diào)遞增的,他會(huì)使用當(dāng)前的事件的時(shí)間戳生成水位線(xiàn)記錄

注意事項(xiàng)

你是否有個(gè)疑問(wèn),如果我一個(gè)自定義的水位線(xiàn)生成器發(fā)出一個(gè)比之前曾經(jīng)發(fā)出的水位線(xiàn)記錄的時(shí)間戳更小的水位線(xiàn)會(huì)有什么影響?答案是 flink會(huì)忽略掉,這就沒(méi)有你想繼續(xù)往下問(wèn)的水位線(xiàn)回退所引發(fā)的一系列問(wèn)題了文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-728978.html

到了這里,關(guān)于flink生成水位線(xiàn)記錄方式--周期性水位線(xiàn)生成器的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶(hù)投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 【FLink】水位線(xiàn)(Watermark)

    【FLink】水位線(xiàn)(Watermark)

    目錄 1、關(guān)于時(shí)間語(yǔ)義 1.1事件時(shí)間 1.2處理時(shí)間?編輯 2、什么是水位線(xiàn) 2.1 順序流和亂序流 2.2亂序數(shù)據(jù)的處理 2.3 水位線(xiàn)的特性 3 、水位線(xiàn)的生成 3.1 生成水位線(xiàn)的總體原則 3.2 水位線(xiàn)生成策略 3.3 Flink內(nèi)置水位線(xiàn) 3.3.1?有序流中內(nèi)置水位線(xiàn)設(shè)置 3.4.2?斷點(diǎn)式水位線(xiàn)生成器(Punc

    2024年02月21日
    瀏覽(19)
  • Flink-水位線(xiàn)和時(shí)間語(yǔ)義

    Flink-水位線(xiàn)和時(shí)間語(yǔ)義

    在實(shí)際應(yīng)用中,事件時(shí)間語(yǔ)義會(huì)更為常見(jiàn)。一般情況下,業(yè)務(wù)日志數(shù)據(jù)中都會(huì)記錄數(shù)據(jù)生成的時(shí)間戳(timestamp),它就可以作為事件時(shí)間的判斷基礎(chǔ)。 在Flink中,由于處理時(shí)間比較簡(jiǎn)單,早期版本默認(rèn)的時(shí)間語(yǔ)義是處理時(shí)間;而考慮到事件時(shí)間在實(shí)際應(yīng)用中更為廣泛,從Fli

    2024年02月04日
    瀏覽(34)
  • Flink-【時(shí)間語(yǔ)義、窗口、水位線(xiàn)】

    Flink-【時(shí)間語(yǔ)義、窗口、水位線(xiàn)】

    ??:可樂(lè) 可樂(lè)的生產(chǎn)日期?= 事件時(shí)間(可樂(lè)產(chǎn)生的時(shí)間); 可樂(lè)被喝的時(shí)間 = 處理時(shí)間(可樂(lè)被處理【喝掉=處理】的時(shí)間)。 機(jī)器時(shí)間:可能不準(zhǔn)確(例如:A可樂(lè)廠(chǎng)的時(shí)鐘比較慢,B可樂(lè)廠(chǎng)的時(shí)鐘比較快,但實(shí)際上B產(chǎn)生可樂(lè)的時(shí)間比A產(chǎn)生可樂(lè)的時(shí)間慢,卻被先處理了)

    2024年02月01日
    瀏覽(20)
  • 【入門(mén)Flink】- 09Flink水位線(xiàn)Watermark

    【入門(mén)Flink】- 09Flink水位線(xiàn)Watermark

    在 窗口的處理過(guò)程 中,基于數(shù)據(jù)的時(shí)間戳,自定義一個(gè) “邏輯時(shí)鐘” 。這個(gè)時(shí)鐘的時(shí)間不會(huì)自動(dòng)流逝;它的時(shí)間進(jìn)展,就是靠著新到數(shù)據(jù)的時(shí)間戳來(lái)推動(dòng)的。 用來(lái)衡量 事件時(shí)間 進(jìn)展的標(biāo)記,就被稱(chēng)作 “水位線(xiàn)”(Watermark) 。 具體實(shí)現(xiàn)上,水位線(xiàn)可以看作一條 特殊的數(shù)

    2024年01月17日
    瀏覽(22)
  • Flink之Watermark水印、水位線(xiàn)

    在Apache Flink中,Watermark(水?。┦且环N用于處理事件時(shí)間(eventtime)的時(shí)間指示器。它模擬了事件流中事件時(shí)間進(jìn)展的概念。 事件時(shí)間是指事件實(shí)際發(fā)生的時(shí)間,在分布式流處理中經(jīng)常用于處理無(wú)序事件流。然而,由于網(wǎng)絡(luò)延遲、亂序事件的到達(dá)以及分布式處理的特點(diǎn),事件

    2024年02月08日
    瀏覽(22)
  • Flink-水位線(xiàn)的設(shè)置以及傳遞

    Flink-水位線(xiàn)的設(shè)置以及傳遞

    6.2.1 概述 分類(lèi) 有序流 無(wú)序流 判斷的時(shí)間延遲 延遲時(shí)間判定 6.2.2 水位線(xiàn)的設(shè)置 分析 DataStream下的assignTimstampsAndWatermarks方法,返回SingleOutputStreamOperator本質(zhì)還是個(gè)算子,傳入的參數(shù)是WatermarkStrategy的生成策略 但是WatermarkStrategy是一個(gè)接口 有序流 因此調(diào)用靜態(tài)方法forMonotonousT

    2023年04月15日
    瀏覽(26)
  • flink水位線(xiàn)傳播及任務(wù)事件時(shí)間

    flink水位線(xiàn)傳播及任務(wù)事件時(shí)間

    本文來(lái)講解一下flink的水位線(xiàn)傳播及對(duì)其對(duì)任務(wù)事件時(shí)間的影響 首先f(wàn)link是通過(guò)從源頭生成水位線(xiàn)記錄的方式來(lái)實(shí)現(xiàn)水位線(xiàn)傳播的,也就是說(shuō)水位線(xiàn)是嵌入在正常的記錄流中的特殊記錄,攜帶者水位線(xiàn)的時(shí)間戳,以下我們就通過(guò)圖片的方式來(lái)講解下水位線(xiàn)是如何傳播以及更新

    2024年02月16日
    瀏覽(21)
  • Flink詳解系列之五--水位線(xiàn)(watermark)

    Flink詳解系列之五--水位線(xiàn)(watermark)

    1、概念 在Flink中,水位線(xiàn)是一種衡量Event Time進(jìn)展的機(jī)制,用來(lái)處理實(shí)時(shí)數(shù)據(jù)中的亂序問(wèn)題的,通常是水位線(xiàn)和窗口結(jié)合使用來(lái)實(shí)現(xiàn)。 從設(shè)備生成實(shí)時(shí)流事件,到Flink的source,再到多個(gè)oparator處理數(shù)據(jù),過(guò)程中會(huì)受到網(wǎng)絡(luò)延遲、背壓等多種因素影響造成數(shù)據(jù)亂序。在進(jìn)行窗口處

    2024年02月13日
    瀏覽(20)
  • 【Flink】Flink 中的時(shí)間和窗口之水位線(xiàn)(Watermark)

    【Flink】Flink 中的時(shí)間和窗口之水位線(xiàn)(Watermark)

    這里先介紹一下什么是 時(shí)間語(yǔ)義 , 時(shí)間語(yǔ)義 在Flink中是一種很重要的概念,下面介紹的 水位線(xiàn) 就是基于 時(shí)間語(yǔ)義 來(lái)講的。 在Flink中我們提到的時(shí)間語(yǔ)義一般指的是 事件時(shí)間 和 處理時(shí)間 : 處理時(shí)間(Processing Time) ,一般指執(zhí)行處理操作的系統(tǒng)時(shí)間,也就是Flink的窗口算子

    2024年02月07日
    瀏覽(20)
  • 7.2、如何理解Flink中的水位線(xiàn)(Watermark)

    7.2、如何理解Flink中的水位線(xiàn)(Watermark)

    目錄 0、版本說(shuō)明 1、什么是水位線(xiàn)? 2、水位線(xiàn)使用場(chǎng)景? 3、設(shè)計(jì)水位線(xiàn)主要為了解決什么問(wèn)題? 4、怎樣在flink中生成水位線(xiàn)? 4.1、自定義標(biāo)記 Watermark 生成器 4.2、自定義周期性 Watermark 生成器 4.3、內(nèi)置Watermark生成器 - 有序流水位線(xiàn)生成器 4.4、內(nèi)置Watermark生成器 - 亂序流

    2024年02月08日
    瀏覽(18)

覺(jué)得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包