国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

kafka消費(fèi)者報(bào)錯(cuò)Offset commit ......it is likely that the consumer was kicked out of the group的解決

這篇具有很好參考價(jià)值的文章主要介紹了kafka消費(fèi)者報(bào)錯(cuò)Offset commit ......it is likely that the consumer was kicked out of the group的解決。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問(wèn)。

2022年10月份接到一個(gè)小功能,對(duì)接kafka將數(shù)據(jù)寫到數(shù)據(jù)庫(kù),開始的需求就是無(wú)腦批量insert,隨著時(shí)間的推移,業(yè)務(wù)需求有變更,kafka的生產(chǎn)消息頻次越來(lái)越高,到今年7月份為止就每秒會(huì)有幾十條甚至上百條,然后消費(fèi)消息的代碼就報(bào)錯(cuò):

Caused by: org.apache.kafka.clients.consumer.CommitFailedException: Offset commit cannot be completed since the consumer is not part of an active group for auto partition assignment; it is likely that the consumer was kicked out of the group.

剛開始就在網(wǎng)上查詢相關(guān)信息的解決辦法,有的是讓修改max-poll-records這個(gè)參數(shù),網(wǎng)上查到的信息是,這個(gè)參數(shù)主要是消費(fèi)者每次獲取數(shù)據(jù)的大小,好像是這么解釋的,我修改完之后,發(fā)現(xiàn)還是報(bào)錯(cuò),報(bào)同樣的錯(cuò),因此我就去反查代碼,也沒(méi)有什么問(wèn)題。這個(gè)問(wèn)題持續(xù)了一段時(shí)間,每次都是重啟應(yīng)用來(lái)解決問(wèn)題。

后來(lái)被逼無(wú)奈,只能痛下決心來(lái)解決這個(gè)問(wèn)題,于是我就在網(wǎng)上查詢,出現(xiàn)這個(gè)錯(cuò)誤的原因,最后大概定位到:是因?yàn)橄M(fèi)程序的處理能力太慢。于是我就重新梳理了一下數(shù)據(jù)消費(fèi)成后的后續(xù)業(yè)務(wù)邏輯,發(fā)現(xiàn)有一步批量更新可以不需要,于是就把批量更新的操作去掉了,讓消費(fèi)消息的邏輯又變得簡(jiǎn)單了,后來(lái)就沒(méi)有出現(xiàn)這個(gè)問(wèn)題了。于是總結(jié)了一下,出現(xiàn)這個(gè)問(wèn)題的大數(shù)據(jù)原因可能是因?yàn)槲覀兿M(fèi)者的代碼邏輯牽扯太多或者業(yè)務(wù)邏輯太負(fù)責(zé),導(dǎo)致速度很慢,從而導(dǎo)致消費(fèi)者與服務(wù)器之間發(fā)生超時(shí)的問(wèn)題。

后續(xù)如果再出現(xiàn)對(duì)接kafka,我會(huì)選擇通過(guò)多線程操作,或者將kafka消費(fèi)消息與業(yè)務(wù)邏輯進(jìn)行異步處理,不要同步實(shí)現(xiàn)。文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-722187.html

到了這里,關(guān)于kafka消費(fèi)者報(bào)錯(cuò)Offset commit ......it is likely that the consumer was kicked out of the group的解決的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • Kafka3.0.0版本——消費(fèi)者(手動(dòng)提交offset)

    Kafka3.0.0版本——消費(fèi)者(手動(dòng)提交offset)

    1.1、手動(dòng)提交offset的兩種方式 commitSync(同步提交):必須等待offset提交完畢,再去消費(fèi)下一批數(shù)據(jù)。 commitAsync(異步提交) :發(fā)送完提交offset請(qǐng)求后,就開始消費(fèi)下一批數(shù)據(jù)了。 1.2、手動(dòng)提交offset兩種方式的區(qū)別 相同點(diǎn):都會(huì)將本次提交的一批數(shù)據(jù)最高的偏移量提交。 不

    2024年02月09日
    瀏覽(27)
  • Kafka3.0.0版本——消費(fèi)者(自動(dòng)提交 offset)

    Kafka3.0.0版本——消費(fèi)者(自動(dòng)提交 offset)

    官網(wǎng)文檔 參數(shù)解釋 參數(shù) 描述 enable.auto.commi 默認(rèn)值為 true,消費(fèi)者會(huì)自動(dòng)周期性地向服務(wù)器提交偏移量。 auto.commit.interval.ms 如果設(shè)置了 enable.auto.commit 的值為 true, 則該值定義了消費(fèi)者偏移量向 Kafka 提交的頻率,默認(rèn) 5s。 圖解分析 消費(fèi)者自動(dòng)提交 offset代碼 消費(fèi)者自動(dòng)提交

    2024年02月09日
    瀏覽(27)
  • Kafka - 主題Topic與消費(fèi)者消息Offset日志記錄機(jī)制

    Kafka - 主題Topic與消費(fèi)者消息Offset日志記錄機(jī)制

    可以根據(jù)業(yè)務(wù)類型,分發(fā)到不同的Topic中,對(duì)于每一個(gè)Topic,下面可以有多個(gè)分區(qū)(Partition)日志文件: kafka 下的Topic的多個(gè)分區(qū),每一個(gè)分區(qū)實(shí)質(zhì)上就是一個(gè)隊(duì)列,將接收到的消息暫時(shí)存儲(chǔ)到隊(duì)列中,根據(jù)配置以及消息消費(fèi)情況來(lái)對(duì)隊(duì)列消息刪除。 可以這么來(lái)理解Topic,Partitio

    2024年02月03日
    瀏覽(22)
  • Kafka-Java四:Spring配置Kafka消費(fèi)者提交Offset的策略

    Kafka消費(fèi)者提交Offset的策略有 自動(dòng)提交Offset: 消費(fèi)者將消息拉取下來(lái)以后未被消費(fèi)者消費(fèi)前,直接自動(dòng)提交offset。 自動(dòng)提交可能丟失數(shù)據(jù),比如消息在被消費(fèi)者消費(fèi)前已經(jīng)提交了offset,有可能消息拉取下來(lái)以后,消費(fèi)者掛了 手動(dòng)提交Offset 消費(fèi)者在消費(fèi)消息時(shí)/后,再提交o

    2024年02月08日
    瀏覽(23)
  • Kafka篇——Kafka消費(fèi)者端常見(jiàn)配置,涵蓋自動(dòng)手動(dòng)提交offset、poll消息細(xì)節(jié)、健康狀態(tài)檢查、新消費(fèi)組消費(fèi)offset規(guī)則以及指定分區(qū)等技術(shù)點(diǎn)配置,全面無(wú)死角,一篇文章拿下!

    Kafka篇——Kafka消費(fèi)者端常見(jiàn)配置,涵蓋自動(dòng)手動(dòng)提交offset、poll消息細(xì)節(jié)、健康狀態(tài)檢查、新消費(fèi)組消費(fèi)offset規(guī)則以及指定分區(qū)等技術(shù)點(diǎn)配置,全面無(wú)死角,一篇文章拿下!

    一、自動(dòng)提交offset 1、概念 Kafka中默認(rèn)是自動(dòng)提交offset。消費(fèi)者在poll到消息后默認(rèn)情況下,會(huì)自動(dòng)向Broker的_consumer_offsets主題提交當(dāng)前 主題-分區(qū)消費(fèi)的偏移量 2、自動(dòng)提交offset和手動(dòng)提交offset流程圖 3、在Java中實(shí)現(xiàn)配置 4、自動(dòng)提交offset問(wèn)題 自動(dòng)提交會(huì)丟消息。因?yàn)槿绻M(fèi)

    2024年01月22日
    瀏覽(22)
  • 13、Kafka ------ kafka 消費(fèi)者API用法(消費(fèi)者消費(fèi)消息代碼演示)

    13、Kafka ------ kafka 消費(fèi)者API用法(消費(fèi)者消費(fèi)消息代碼演示)

    消費(fèi)者API的核心類是 KafkaConsumer,它提供了如下常用方法: 下面這些方法都體現(xiàn)了Kafka是一個(gè)數(shù)據(jù)流平臺(tái),消費(fèi)者通過(guò)這些方法可以從分區(qū)的任意位置、重新開始讀取數(shù)據(jù)。 根據(jù)KafkaConsumer不難看出,使用消費(fèi)者API拉取消息很簡(jiǎn)單,基本只要幾步: 1、創(chuàng)建KafkaConsumer對(duì)象,創(chuàng)建

    2024年04月11日
    瀏覽(30)
  • 分布式 - 消息隊(duì)列Kafka:Kafka消費(fèi)者和消費(fèi)者組

    分布式 - 消息隊(duì)列Kafka:Kafka消費(fèi)者和消費(fèi)者組

    1. Kafka 消費(fèi)者是什么? 消費(fèi)者負(fù)責(zé)訂閱Kafka中的主題,并且從訂閱的主題上拉取消息。與其他一些消息中間件不同的是:在Kafka的消費(fèi)理念中還有一層消費(fèi)組的概念,每個(gè)消費(fèi)者都有一個(gè)對(duì)應(yīng)的消費(fèi)組。當(dāng)消息發(fā)布到主題后,只會(huì)被投遞給訂閱它的每個(gè)消費(fèi)組中的一個(gè)消費(fèi)者

    2024年02月13日
    瀏覽(29)
  • kafka配置多個(gè)消費(fèi)者groupid kafka多個(gè)消費(fèi)者消費(fèi)同一個(gè)partition(java)

    kafka配置多個(gè)消費(fèi)者groupid kafka多個(gè)消費(fèi)者消費(fèi)同一個(gè)partition(java)

    kafka是由Apache軟件基金會(huì)開發(fā)的一個(gè)開源流處理平臺(tái)。kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng),它可以處理消費(fèi)者在網(wǎng)站中的所有動(dòng)作流數(shù)據(jù)。 kafka中partition類似數(shù)據(jù)庫(kù)中的分表數(shù)據(jù),可以起到水平擴(kuò)展數(shù)據(jù)的目的,比如有a,b,c,d,e,f 6個(gè)數(shù)據(jù),某個(gè)topic有兩個(gè)partition,一

    2024年01月22日
    瀏覽(161)
  • Kafka3.0.0版本——消費(fèi)者(消費(fèi)者組詳細(xì)消費(fèi)流程圖解及消費(fèi)者重要參數(shù))

    Kafka3.0.0版本——消費(fèi)者(消費(fèi)者組詳細(xì)消費(fèi)流程圖解及消費(fèi)者重要參數(shù))

    創(chuàng)建一個(gè)消費(fèi)者網(wǎng)絡(luò)連接客戶端,主要用于與kafka集群進(jìn)行交互,如下圖所示: 調(diào)用sendFetches發(fā)送消費(fèi)請(qǐng)求,如下圖所示: (1)、Fetch.min.bytes每批次最小抓取大小,默認(rèn)1字節(jié) (2)、fetch.max.wait.ms一批數(shù)據(jù)最小值未達(dá)到的超時(shí)時(shí)間,默認(rèn)500ms (3)、Fetch.max.bytes每批次最大抓取大小,默

    2024年02月09日
    瀏覽(21)
  • 10、Kafka ------ 消費(fèi)者組 和 消費(fèi)者實(shí)例,分區(qū) 和 消費(fèi)者實(shí)例 之間的分配策略

    10、Kafka ------ 消費(fèi)者組 和 消費(fèi)者實(shí)例,分區(qū) 和 消費(fèi)者實(shí)例 之間的分配策略

    形象來(lái)說(shuō):你可以把主題內(nèi)的多個(gè)分區(qū)當(dāng)成多個(gè)子任務(wù)、多個(gè)子任務(wù)組成項(xiàng)目,每個(gè)消費(fèi)者實(shí)例就相當(dāng)于一個(gè)員工,假如你們 team 包含2個(gè)員工。 同理: 同一主題下,每個(gè)分區(qū)最多只會(huì)分給同一個(gè)組內(nèi)的一個(gè)消費(fèi)者實(shí)例 消費(fèi)者以組的名義來(lái)訂閱主題,前面的 kafka-console-consu

    2024年01月19日
    瀏覽(19)

覺(jué)得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包