国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

kafka除了作為消息隊(duì)列還能做什么?

這篇具有很好參考價(jià)值的文章主要介紹了kafka除了作為消息隊(duì)列還能做什么?。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

Kafka 最初是為大規(guī)模處理日志而構(gòu)建的。它可以保留消息直到過期,并讓各個(gè)消費(fèi)者按照自己的節(jié)奏提取消息。 與其之前的競(jìng)品不同,Kafka 不僅僅是一個(gè)消息隊(duì)列,它還是一個(gè)適用于各種情況的開源事件流平臺(tái)。 讓我們回顧一下流行的 Kafka 用例。

01 日志處理和分析

上圖顯示了一個(gè)典型的 ELK(Elastic-Logstash-Kibana)棧。Kafka 從每個(gè)服務(wù)實(shí)例高效地收集日志流。ElasticSearch 從 Kafka 中獲取日志并編制索引。Kibana 在 ElasticSearch 的基礎(chǔ)上提供搜索和可視化用戶界面。

02 推薦系統(tǒng)中的數(shù)據(jù)流

亞馬遜等電子商務(wù)網(wǎng)站利用用戶過去的行為和相似用戶分析來(lái)計(jì)算產(chǎn)品推薦。Kafka 傳輸原始點(diǎn)擊流數(shù)據(jù),F(xiàn)link 對(duì)其進(jìn)行處理,而模型訓(xùn)練則消耗數(shù)據(jù)湖中的匯總數(shù)據(jù)。這樣就能不斷改進(jìn)針對(duì)每個(gè)用戶的推薦相關(guān)性。

03 系統(tǒng)監(jiān)控和警報(bào)

與日志分析系統(tǒng)類似,我們需要收集系統(tǒng)指標(biāo)來(lái)進(jìn)行監(jiān)控和故障排除。不同的是,指標(biāo)是結(jié)構(gòu)化數(shù)據(jù),而日志是非結(jié)構(gòu)化文本。指標(biāo)數(shù)據(jù)被發(fā)送到 Kafka 并在 Flink 中聚合。實(shí)時(shí)監(jiān)控儀表板和警報(bào)系統(tǒng)(如 PagerDuty)將使用匯總的數(shù)據(jù)。

04 CDC(Change Data Capture)

CDC 將數(shù)據(jù)庫(kù)的變更傳輸?shù)狡渌到y(tǒng),以便復(fù)制或更新緩存/索引。例如,在下圖中,事務(wù)日志被發(fā)送到 Kafka,并被 ElasticSearch、Redis 和二級(jí)數(shù)據(jù)庫(kù)攝取。

05 系統(tǒng)遷移

升級(jí)舊服務(wù)是一項(xiàng)具有挑戰(zhàn)性的任務(wù),比如編程語(yǔ)言陳舊、邏輯復(fù)雜、缺乏測(cè)試等等。我們可以利用消息中間件來(lái)降低風(fēng)險(xiǎn)。如上圖所示,為了升級(jí)訂單服務(wù),我們更新了舊訂單服務(wù),以便從 Kafka 中消費(fèi)輸入,并將結(jié)果寫入 ORDER Topic。新訂單服務(wù)消耗相同的輸入,并將結(jié)果寫入 ORDERNEW Topic。對(duì)賬服務(wù)會(huì)比較 ORDER 和 ORDERNEW 下收到的內(nèi)容。如果它們完全相同,新服務(wù)就會(huì)通過測(cè)試。

kafka除了作為消息隊(duì)列還能做什么?,消息隊(duì)列,Kafka,分布式,kafka,分布式文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-801660.html

到了這里,關(guān)于kafka除了作為消息隊(duì)列還能做什么?的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來(lái)自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 分布式 - 消息隊(duì)列Kafka:Kafka 消費(fèi)者消息消費(fèi)與參數(shù)配置

    分布式 - 消息隊(duì)列Kafka:Kafka 消費(fèi)者消息消費(fèi)與參數(shù)配置

    01. 創(chuàng)建消費(fèi)者 在讀取消息之前,需要先創(chuàng)建一個(gè)KafkaConsumer對(duì)象。創(chuàng)建KafkaConsumer對(duì)象與創(chuàng)建KafkaProducer對(duì)象非常相似——把想要傳給消費(fèi)者的屬性放在Properties對(duì)象里。 為簡(jiǎn)單起見,這里只提供4個(gè)必要的屬性:bootstrap.servers、key.deserializer 和 value.deserializer。 ① bootstrap.servers 指

    2024年02月12日
    瀏覽(27)
  • 分布式 - 消息隊(duì)列Kafka:Kafka生產(chǎn)者發(fā)送消息的分區(qū)策略

    分布式 - 消息隊(duì)列Kafka:Kafka生產(chǎn)者發(fā)送消息的分區(qū)策略

    01. Kafka 分區(qū)的作用 分區(qū)的作用就是提供負(fù)載均衡的能力,或者說(shuō)對(duì)數(shù)據(jù)進(jìn)行分區(qū)的主要原因,就是為了實(shí)現(xiàn)系統(tǒng)的高伸縮性。不同的分區(qū)能夠被放置到不同節(jié)點(diǎn)的機(jī)器上,而數(shù)據(jù)的讀寫操作也都是針對(duì)分區(qū)這個(gè)粒度而進(jìn)行的,這樣每個(gè)節(jié)點(diǎn)的機(jī)器都能獨(dú)立地執(zhí)行各自分區(qū)的

    2024年02月13日
    瀏覽(32)
  • 消息隊(duì)列——kafka基礎(chǔ)

    消息隊(duì)列——kafka基礎(chǔ)

    首先自然是要列出Kafka官網(wǎng)地址啦:https://kafka.apache.org/ 概述 定義 發(fā)布/訂閱模式 ? 原文鏈接:https://blog.csdn.net/tjvictor/article/details/5223309 ? 定義了一種 一對(duì)多 的依賴關(guān)系,讓 多個(gè)訂閱者對(duì)象同時(shí)監(jiān)聽某一個(gè)主題對(duì)象 。這個(gè)主題對(duì)象在自身狀態(tài)變化時(shí),會(huì)通知所有訂閱者對(duì)

    2024年02月04日
    瀏覽(24)
  • 消息隊(duì)列之王——Kafka

    消息隊(duì)列之王——Kafka

    ? ? 在學(xué)習(xí)kafka之前,我們需要先學(xué)習(xí) Zookeeper ,那Zookeeper是什么呢? Zookeeper 是一個(gè)開源的分布式的,為分布式框架提供協(xié)調(diào)服務(wù)的Apache項(xiàng)目。 ????????Zookeeper從 設(shè)計(jì)模式 角度來(lái)理解:是一個(gè)基于觀察者模式設(shè)計(jì)的 分布式服務(wù)管理框架 ,它 負(fù)責(zé)存儲(chǔ)和管理 大家都關(guān)心

    2024年01月23日
    瀏覽(54)
  • 消息隊(duì)列 Kafka

    消息隊(duì)列 Kafka

    Kafka 是一個(gè)分布式的基于發(fā)布/訂閱模式的消息隊(duì)列(MQ,Message Queue),主要應(yīng)用于大數(shù)據(jù)實(shí)時(shí)處理領(lǐng)域 在高并發(fā)環(huán)境下,同步請(qǐng)求來(lái)不及處理會(huì)發(fā)生堵塞,從而觸發(fā)too many connection錯(cuò)誤,引發(fā)雪崩效應(yīng)。比如大量的請(qǐng)求并發(fā)訪問數(shù)據(jù)庫(kù),導(dǎo)致行鎖表鎖,最后請(qǐng)求線程會(huì)堆積過

    2024年02月07日
    瀏覽(23)
  • 分布式 - 消息隊(duì)列Kafka:Kafka生產(chǎn)者發(fā)送消息的3種方式

    分布式 - 消息隊(duì)列Kafka:Kafka生產(chǎn)者發(fā)送消息的3種方式

    不管是把Kafka作為消息隊(duì)列、消息總線還是數(shù)據(jù)存儲(chǔ)平臺(tái),總是需要一個(gè)可以往Kafka寫入數(shù)據(jù)的生產(chǎn)者、一個(gè)可以從Kafka讀取數(shù)據(jù)的消費(fèi)者,或者一個(gè)兼具兩種角色的應(yīng)用程序。 Kafka 生產(chǎn)者是指使用 Apache Kafka 消息系統(tǒng)的應(yīng)用程序,它們負(fù)責(zé)將消息發(fā)送到 Kafka 集群中的一個(gè)或多

    2024年02月13日
    瀏覽(29)
  • Kafka源碼解析之SocketServer,kafka消息隊(duì)列面試題

    Kafka源碼解析之SocketServer,kafka消息隊(duì)列面試題

    ======================================================================= Kafka處理請(qǐng)求不區(qū)分優(yōu)先級(jí),但這種絕對(duì)公平的策略有時(shí)會(huì)發(fā)生問題。 比如:創(chuàng)建一個(gè)單分區(qū)雙副本的主題,當(dāng)時(shí)集群中的Broker A機(jī)器保存了分區(qū)的Leader副本,Broker B保存了Follower副本。突然業(yè)務(wù)激增,Broker A瞬間積壓大量

    2024年04月08日
    瀏覽(14)
  • Kafka消息隊(duì)列實(shí)現(xiàn)消息的發(fā)送和接收

    Kafka消息隊(duì)列實(shí)現(xiàn)消息的發(fā)送和接收

    消息在Kafka消息隊(duì)列中發(fā)送和接收過程如下圖所示: 消息生產(chǎn)者Producer產(chǎn)生消息數(shù)據(jù),發(fā)送到Kafka消息隊(duì)列中,一臺(tái)Kafka節(jié)點(diǎn)只有一個(gè)Broker,消息會(huì)存儲(chǔ)在Kafka的Topic(主題中),不同類型的消息數(shù)據(jù)會(huì)存儲(chǔ)在不同的Topic中,可以利用Topic實(shí)現(xiàn)消息的分類,消息消費(fèi)者Consumer會(huì)訂閱

    2024年02月11日
    瀏覽(21)
  • zookeeper和kafka消息隊(duì)列

    zookeeper和kafka消息隊(duì)列

    Zookeeper是一個(gè)開源的分布式的,為分布式框架提供協(xié)調(diào)服務(wù)的Apache項(xiàng)目 zookeeper是由一個(gè)領(lǐng)導(dǎo)者(leader),多個(gè)跟隨者(follower)組成的集群 Zookeepe集群中只要有半數(shù)以上節(jié)點(diǎn)存活,Zookeeper集群就能正常服務(wù)。所以Zookeeper適合安裝奇數(shù)臺(tái)服務(wù)器 全局?jǐn)?shù)據(jù)一致:每個(gè)Server保存一份相同

    2024年04月17日
    瀏覽(62)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包