国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Kafka3.0.0版本——消費(fèi)者(分區(qū)的分配以及再平衡)

這篇具有很好參考價(jià)值的文章主要介紹了Kafka3.0.0版本——消費(fèi)者(分區(qū)的分配以及再平衡)。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

一、分區(qū)的分配以及再平衡

1.1、消費(fèi)者分區(qū)及消費(fèi)者組的概述

  • 一個(gè)consumer group中有多個(gè)consumer組成,一個(gè) topic有多個(gè)partition組成。

Kafka3.0.0版本——消費(fèi)者(分區(qū)的分配以及再平衡),kafka,kafka

1.2、如何確定哪個(gè)consumer來消費(fèi)哪個(gè)partition的數(shù)據(jù)

  • Kafka有四種主流的分區(qū)分配策略: Range、RoundRobin、Sticky、CooperativeSticky。
    Kafka3.0.0版本——消費(fèi)者(分區(qū)的分配以及再平衡),kafka,kafka

  • 可以通過配置參數(shù)partition.assignment.strategy,修改分區(qū)的分配策略。默認(rèn)策略是Range + CooperativeSticky。Kafka可以同時(shí)使用多個(gè)分區(qū)分配策略。
    Kafka3.0.0版本——消費(fèi)者(分區(qū)的分配以及再平衡),kafka,kafka文章來源地址http://www.zghlxwxcb.cn/news/detail-733425.html

1.3、消費(fèi)者分區(qū)分配策略

參數(shù)名稱 描述
heartbeat.interval.ms Kafka 消費(fèi)者和 coordinator 之間的心跳時(shí)間, 默認(rèn) 3s。該條目的值必須小于 session.timeout.ms,也不應(yīng)該高于session.timeout.ms 的 1/3。
session.timeout.ms Kafka 消費(fèi)者和 coordinator 之間連接超時(shí)時(shí)間, 默認(rèn) 45s。超過該值,該消費(fèi)者被移除,消費(fèi)者組執(zhí)行再平衡。
max.poll.interval.ms 消費(fèi)者處理消息的最大時(shí)長(zhǎng), 默認(rèn)是 5 分鐘。超過該值,該消費(fèi)者被移除,消費(fèi)者組執(zhí)行再平衡。
partition.assignment.strategy 消 費(fèi) 者 分 區(qū) 分 配 策 略 , 默 認(rèn) 策 略 是 Range +CooperativeSticky。Kafka 可以同時(shí)使用多個(gè)分區(qū)分配策略???以 選 擇 的 策 略 包 括 : Range 、 RoundRobin 、 Sticky 、CooperativeSticky

到了這里,關(guān)于Kafka3.0.0版本——消費(fèi)者(分區(qū)的分配以及再平衡)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • Kafka3.0.0版本——消費(fèi)者(消費(fèi)者總體工作流程圖解)

    Kafka3.0.0版本——消費(fèi)者(消費(fèi)者總體工作流程圖解)

    角色劃分:生產(chǎn)者、zookeeper、kafka集群、消費(fèi)者、消費(fèi)者組。如下圖所示: 生產(chǎn)者發(fā)送消息給leader,followerr主動(dòng)從leader同步數(shù)據(jù),一個(gè)消費(fèi)者可以消費(fèi)某一個(gè)分區(qū)數(shù)據(jù)或者一個(gè)消費(fèi)者可以消費(fèi)多個(gè)分區(qū)數(shù)據(jù)。如下圖所示: 每個(gè)分區(qū)的數(shù)據(jù)只能由消費(fèi)者組中一個(gè)消費(fèi)者消費(fèi)。如下

    2024年02月09日
    瀏覽(37)
  • Kafka3.0.0版本——消費(fèi)者(消費(fèi)者組初始化流程圖解)

    Kafka3.0.0版本——消費(fèi)者(消費(fèi)者組初始化流程圖解)

    每個(gè)consumer都發(fā)送JoinGroup請(qǐng)求,如下圖所示: 選出一個(gè)consumer作為leader,如下圖所示: 把要消費(fèi)的topic情況發(fā)送給leader 消費(fèi)者,如下圖所示: leader會(huì)負(fù)責(zé)制定消費(fèi)方案,并把消費(fèi)方案發(fā)給coordinator,如下圖所示: Coordinator就把消費(fèi)方案下發(fā)給各個(gè)consumer,如下圖所示: 每個(gè)消

    2024年02月09日
    瀏覽(23)
  • Kafka3.0.0版本——消費(fèi)者(消費(fèi)者組詳細(xì)消費(fèi)流程圖解及消費(fèi)者重要參數(shù))

    Kafka3.0.0版本——消費(fèi)者(消費(fèi)者組詳細(xì)消費(fèi)流程圖解及消費(fèi)者重要參數(shù))

    創(chuàng)建一個(gè)消費(fèi)者網(wǎng)絡(luò)連接客戶端,主要用于與kafka集群進(jìn)行交互,如下圖所示: 調(diào)用sendFetches發(fā)送消費(fèi)請(qǐng)求,如下圖所示: (1)、Fetch.min.bytes每批次最小抓取大小,默認(rèn)1字節(jié) (2)、fetch.max.wait.ms一批數(shù)據(jù)最小值未達(dá)到的超時(shí)時(shí)間,默認(rèn)500ms (3)、Fetch.max.bytes每批次最大抓取大小,默

    2024年02月09日
    瀏覽(21)
  • Kafka3.0.0版本——消費(fèi)者(自動(dòng)提交 offset)

    Kafka3.0.0版本——消費(fèi)者(自動(dòng)提交 offset)

    官網(wǎng)文檔 參數(shù)解釋 參數(shù) 描述 enable.auto.commi 默認(rèn)值為 true,消費(fèi)者會(huì)自動(dòng)周期性地向服務(wù)器提交偏移量。 auto.commit.interval.ms 如果設(shè)置了 enable.auto.commit 的值為 true, 則該值定義了消費(fèi)者偏移量向 Kafka 提交的頻率,默認(rèn) 5s。 圖解分析 消費(fèi)者自動(dòng)提交 offset代碼 消費(fèi)者自動(dòng)提交

    2024年02月09日
    瀏覽(28)
  • Kafka3.0.0版本——消費(fèi)者(手動(dòng)提交offset)

    Kafka3.0.0版本——消費(fèi)者(手動(dòng)提交offset)

    1.1、手動(dòng)提交offset的兩種方式 commitSync(同步提交):必須等待offset提交完畢,再去消費(fèi)下一批數(shù)據(jù)。 commitAsync(異步提交) :發(fā)送完提交offset請(qǐng)求后,就開始消費(fèi)下一批數(shù)據(jù)了。 1.2、手動(dòng)提交offset兩種方式的區(qū)別 相同點(diǎn):都會(huì)將本次提交的一批數(shù)據(jù)最高的偏移量提交。 不

    2024年02月09日
    瀏覽(28)
  • Kafka3.0.0版本——消費(fèi)者(獨(dú)立消費(fèi)者消費(fèi)某一個(gè)主題數(shù)據(jù)案例__訂閱主題)

    Kafka3.0.0版本——消費(fèi)者(獨(dú)立消費(fèi)者消費(fèi)某一個(gè)主題數(shù)據(jù)案例__訂閱主題)

    1.1、案例需求 創(chuàng)建一個(gè)獨(dú)立消費(fèi)者,消費(fèi)firstTopic主題中數(shù)據(jù),所下圖所示: 注意:在消費(fèi)者 API 代碼中必須配置消費(fèi)者組 id。命令行啟動(dòng)消費(fèi)者不填寫消費(fèi)者組id 會(huì)被自動(dòng)填寫隨機(jī)的消費(fèi)者組 id。 1.2、案例代碼 代碼 1.3、測(cè)試 在 Kafka 集群控制臺(tái),創(chuàng)建firstTopic主題 在 IDEA中

    2024年02月09日
    瀏覽(26)
  • kafka的消費(fèi)者分區(qū)分配策略

    kafka的消費(fèi)者分區(qū)分配策略

    kafka有三種分區(qū)分配策略 1.RoundRobin 2.Range 3.Sticky 一、RoundRobin RoundRobin策略很簡(jiǎn)單~假設(shè)我們有三個(gè)Topic10個(gè)Partition,上圖! 假設(shè)順序?yàn)锳-0,A-1,A-2...C-2 ?不難看出輪詢策略是將partition當(dāng)做最小分配單位,將所有topic的partition都看作一個(gè)整體。然后為消費(fèi)者輪詢分配partition。當(dāng)然得到

    2024年02月06日
    瀏覽(19)
  • 10、Kafka ------ 消費(fèi)者組 和 消費(fèi)者實(shí)例,分區(qū) 和 消費(fèi)者實(shí)例 之間的分配策略

    10、Kafka ------ 消費(fèi)者組 和 消費(fèi)者實(shí)例,分區(qū) 和 消費(fèi)者實(shí)例 之間的分配策略

    形象來說:你可以把主題內(nèi)的多個(gè)分區(qū)當(dāng)成多個(gè)子任務(wù)、多個(gè)子任務(wù)組成項(xiàng)目,每個(gè)消費(fèi)者實(shí)例就相當(dāng)于一個(gè)員工,假如你們 team 包含2個(gè)員工。 同理: 同一主題下,每個(gè)分區(qū)最多只會(huì)分給同一個(gè)組內(nèi)的一個(gè)消費(fèi)者實(shí)例 消費(fèi)者以組的名義來訂閱主題,前面的 kafka-console-consu

    2024年01月19日
    瀏覽(19)
  • kafka消費(fèi)者api和分區(qū)分配和offset消費(fèi)

    kafka消費(fèi)者api和分區(qū)分配和offset消費(fèi)

    消費(fèi)者的消費(fèi)方式為主動(dòng)從broker拉取消息,由于消費(fèi)者的消費(fèi)速度不同,由broker決定消息發(fā)送速度難以適應(yīng)所有消費(fèi)者的能力 拉取數(shù)據(jù)的問題在于,消費(fèi)者可能會(huì)獲得空數(shù)據(jù) Consumer Group(CG):消費(fèi)者組 由多個(gè)consumer組成。形成一個(gè)消費(fèi)者組的條件,是所有消費(fèi)者的groupid相同

    2024年02月16日
    瀏覽(25)
  • Kafka有幾種消費(fèi)者分區(qū)分配策略?

    Kafka有幾種消費(fèi)者分區(qū)分配策略?

    Range范圍分配策略是Kafka默認(rèn)的分配策略,它可以確保每個(gè)消費(fèi)者消費(fèi)的分區(qū)數(shù)量是均衡的。 注意:Rangle范圍分配策略是針對(duì)每個(gè)Topic的。 配置 配置消費(fèi)者的partition.assignment.strategy為org.apache.kafka.clients.consumer.RangeAssignor。 算法公式 n = 分區(qū)數(shù)量 / 消費(fèi)者數(shù)量 m = 分區(qū)數(shù)量 % 消費(fèi)

    2024年02月08日
    瀏覽(18)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包