国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Kafka入門到起飛系列 - 副本機制,什么是副本因子呢?

這篇具有很好參考價值的文章主要介紹了Kafka入門到起飛系列 - 副本機制,什么是副本因子呢?。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

我們一直在講一個主題會有多個分區(qū),這多個分區(qū)可以分布在一臺服務器上,也可以分布在多臺服務器上,還可以增加分區(qū)(Kafka目前只支持分區(qū)),這是Kafka提供的一種橫向擴展的手段
比如我們創(chuàng)建了一個主題,給主題分配50個分區(qū)(這個數(shù)不大,_consumer_offset主題默認就50個分區(qū)),每個分區(qū)放在不同的broker上,那么我們要保證這50臺服務器都不能宕機,一旦服務器宕機,分區(qū)數(shù)據(jù)就丟失了,保障服務不宕機這是很難的,所以Kafka給我們提供了副本機制

副本機制

  • 在Kafka中,將主題分成多個分區(qū)
  • 分區(qū)有兩個角色,Leader分區(qū)和Follower分區(qū)
  • Kafka對外提供讀寫服務的是Leader分區(qū)
  • Follower分區(qū)負責從Leader分區(qū)同步消息,與Leader分區(qū)保持一致
  • Follower分區(qū)一定和Leader分區(qū)放在不同的服務器(broker)上,否則就沒有意義了,一宕全宕
  • 當Leader分區(qū)宕機,會從Follower分區(qū)(ISR同步副本)選出一個轉(zhuǎn)換成Leader分區(qū)繼續(xù)對外提供服務

我們舉個??,如下圖;
Kafka入門到起飛系列 - 副本機制,什么是副本因子呢?,kafka,kafka,副本機制,副本因子文章來源地址http://www.zghlxwxcb.cn/news/detail-610829.html

  • Kafka 集群有三個節(jié)點(3個broker)
  • 主題Topic有3個分區(qū)Partition_0、Partition_1 、Partition_2,三個分區(qū)分別放在不同的broker上
  • 粉色為Leader分區(qū),灰色為Follower分區(qū)
  • 每個分區(qū)有一個副本,也分別放在不同分區(qū)上,并且與其Leader分區(qū)放在不同的broker上
  • 上圖灰色分區(qū)就是粉色分區(qū)的副本分區(qū)
  • Kafka 通過副本分區(qū)實現(xiàn)高可用
  • replication-factor 副本因子 = leader + follower replication-factor=3,則leader+2follower
  • Follower 分區(qū)像普通的Kafka消費者一樣,消費來自Leader分區(qū)的消息,并將其持久化到自己的日志中,
  • Kafka允許Follower對日志數(shù)據(jù)拉取進行批處理

ISR - 同步副本

  • 節(jié)點與zookeeper保持通信,通過zookeeper的心跳機制,與zookeeper要保持一個長連接
  • 允許副本分區(qū)與Leader分區(qū)有一定消息的偏移

到了這里,關于Kafka入門到起飛系列 - 副本機制,什么是副本因子呢?的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領支付寶紅包贊助服務器費用

相關文章

  • Kafka 入門到起飛系列 - 消費者組管理、位移管理

    Kafka 入門到起飛系列 - 消費者組管理、位移管理

    消費者組 - Consumer Group 上文我們已經(jīng)講過消費者組了,我們知道消費組的存在可以保證一個主題下一個分區(qū)的消息只會被組內(nèi)一個消費者消費,從而避免了消息的重復消費 消費者組是Kafka 提供的可擴展且具有容錯性的消費者機制 消費組有一個或多個消費者,消費者可以是一

    2024年02月15日
    瀏覽(27)
  • Kafka 入門到起飛 - Kafka怎么做到保障消息不會重復消費的? 消費者組是什么?

    Kafka 入門到起飛 - Kafka怎么做到保障消息不會重復消費的? 消費者組是什么?

    消費者 : 1、訂閱Topic(主題) 2、從訂閱的Topic消費(pull)消息, 3、將消費消息的offset(偏移量)保存在Kafka內(nèi)置的一Topic名字是_consumer_offsets的主題中,在Kafka的logs文件下能看到這??文件,存放的是消息的偏移量數(shù)據(jù) 消費者組 : 1、訂閱同一個Topic的消費者可以加入到一個

    2024年02月15日
    瀏覽(20)
  • Kafka 入門到起飛 - 什么是 HW 和 LEO?何時更新HW和LEO呢?

    Kafka 入門到起飛 - 什么是 HW 和 LEO?何時更新HW和LEO呢?

    上文我們已經(jīng)學到, 一個Topic(主題)會有多個Partition(分區(qū)) 為了保證高可用,每個分區(qū)有多個Replication(副本) 副本分為Leader 和 Follower 兩個角色,Leader副本對外提供讀寫服務,F(xiàn)ollower 從Leader同步數(shù)據(jù) 當Leader副本掛掉,從ISR中選舉一個Follower副本成為新的Leader對外繼續(xù)提

    2024年02月10日
    瀏覽(18)
  • Kafka-服務端-副本機制

    Kafka-服務端-副本機制

    Kafka從0.8版本開始引入副本(Replica)的機制,其目的是為了增加Kafka集群的高可用性。 Kafka實現(xiàn)副本機制之后,每個分區(qū)可以有多個副本,并且會從其副本集合(Assigned Replica,AR)中選出一個副本作為Leader副本,所有的讀寫請求都由選舉出的Leader副本處理。 剩余的其他副本都作為F

    2024年01月24日
    瀏覽(23)
  • Kafka的分區(qū)和副本機制

    Kafka的分區(qū)和副本機制是分布式消息系統(tǒng)中的重要概念,它們在數(shù)據(jù)一致性和容錯方面起到了關鍵作用。下面我將詳細介紹這兩個機制的工作原理和底層實現(xiàn)思路,并通過Java源碼示例和分析來加深理解。 Kafka分區(qū)機制 Kafka的分區(qū)機制是按照一定規(guī)則將主題(Topic)中的消息分

    2024年02月01日
    瀏覽(24)
  • Kafka架構篇 - 多副本機制

    Kafka架構篇 - 多副本機制

    副本是分布式系統(tǒng)中對 數(shù)據(jù) 和 服務 提供的一種冗余方式。為了對外提供可用的服務,往往會對 數(shù)據(jù) 和 服務 進行副本處理。 數(shù)據(jù)副本:在不同的節(jié)點持久化同一份數(shù)據(jù),當某個節(jié)點存儲的數(shù)據(jù)丟失時,可以從副本中讀取數(shù)據(jù),這是分布式系統(tǒng)解決數(shù)據(jù)丟失問題的最有效的

    2024年02月08日
    瀏覽(26)
  • kafka入門,Kafka 副本(十三)

    kafka入門,Kafka 副本(十三)

    1)Kafka副本作用,提高數(shù)據(jù)可靠性 2)Kafka默認副本1個,生產(chǎn)環(huán)境一般配置2個,保證數(shù)據(jù)可靠性,太多副本會增加磁盤存儲空間,增加網(wǎng)絡上數(shù)據(jù)傳輸,降低效率 3)Kafka中副本份為:Leader和Follower,kafka生產(chǎn)者只會把數(shù)據(jù)發(fā)往Leader,然后Follower找Leader進行同步數(shù)據(jù) 4)Kafka分區(qū)中

    2024年02月14日
    瀏覽(23)
  • Kafka 入門到起飛 - Kafka是怎么保證可靠性的呢

    什么是消息的可靠性呢,就是Kafka作為消息中間件,可以保證生產(chǎn)者發(fā)送過來的消息,即使在Kafka集群有節(jié)點出現(xiàn)宕機的情況下,也不會丟失 Kafka 是通過 消息確認機制 和 副本復制機制 來保證消息可靠性的 創(chuàng)建topic時,可以指定 副本因子 repilication-factor = 3 ,默認是3 表示分區(qū)

    2024年02月12日
    瀏覽(37)
  • Kafka 入門到起飛 - 核心概念(術語解釋)

    Kafka 入門到起飛 - 核心概念(術語解釋)

    在kafka之旅,我們會大量討論Kafka中的術語,那么就讓我們先來了解一下這些核心概念 消息(Message): kafka的數(shù)據(jù)單元稱為消息,相當于DB里的 一行數(shù)據(jù) 或 一條記錄 消息由 字節(jié)數(shù)組 組成 批次: 生產(chǎn)者組一批數(shù)據(jù)再向kafka推送,批次大小可以通過參數(shù)配置 把消息分成批次傳輸

    2024年02月17日
    瀏覽(21)
  • kafka入門(八):副本

    副本 副本(Replica),指的是分布式系統(tǒng)對數(shù)據(jù)和服務提供的一種冗余方式。 Kafka通過多副本機制實現(xiàn)故障自動轉(zhuǎn)移,在Kafka集群中某個broker節(jié)點失效的情況下仍然保證服務可用。 kafka 副本之間是 一主多從的關系。 其中 leader 副本負責處理讀寫請求,follower 副本只負責與 leader

    2024年01月25日
    瀏覽(20)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領取紅包,優(yōu)惠每天領

二維碼1

領取紅包

二維碼2

領紅包