国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Kraft模式下Kafka腳本的使用

這篇具有很好參考價值的文章主要介紹了Kraft模式下Kafka腳本的使用。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

Kafka集群 版本:V3.5.1

名稱 Node1 Node2 Node3
IP 172.29.145.157 172.29.145.182 172.29.145.183

(1)查看Kraft集群中的狀態(tài)以及Leader節(jié)點,投票節(jié)點
使用--status可以查看集群選舉次數(shù)/水位線以及投票節(jié)點等
使用--replication可以查看Ledaer和Follower分布

使用kafka-metadata-quorum.sh

./kafka-metadata-quorum.sh --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 describe --replication
Kraft模式下Kafka腳本的使用

./kafka-metadata-quorum.sh --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 describe --status
Kraft模式下Kafka腳本的使用

(2)查看Kraft集群中的Topic
使用--list可以查看所有的topic
使用--describe --topic topicname可以查看指定topic的分區(qū)狀態(tài)和副本同步狀態(tài)

使用kafka-topics.sh

./kafka-topics.sh --list --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092
Kraft模式下Kafka腳本的使用

./kafka-topics.sh --describe --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 --topic test-topic1
Kraft模式下Kafka腳本的使用

(3)啟動與關閉Kraft集群
啟動集群時一定需要添加--daemon參數(shù)以后臺守護進程運行

使用kafka-server-start.sh
使用kafka-server-stop.sh

./kafka-server-start.sh -daemon ../config/kraft/server.properties
啟動后可以使用jps來查看kafka集群是否啟動成功
Kraft模式下Kafka腳本的使用

關閉集群也需要加上參數(shù)server.properties
./kafka-server-stop.sh ../config/kraft/server.properties

(4)測試集群性能

使用kafka-producer-perf-test.sh生產(chǎn)數(shù)據(jù)
使用kafka-consumer-perf-test.sh消費數(shù)據(jù)

./kafka-producer-perf-test.sh --producer-props bootstrap.servers=172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 --topic test-topic1 --num-records 1000000 --record-size 4096 --throughput 50000

--topic指定topic
--num-records指定生產(chǎn)者產(chǎn)生的消息數(shù)量
--record-size指定一條消息的大小KB為單位
--throughput指定生產(chǎn)者每秒寫入的消息數(shù)量限制(吞吐量),-1則為不限制

Kraft模式下Kafka腳本的使用
反饋的指標是生產(chǎn)者發(fā)送了一百萬條消息,每秒生產(chǎn)消息15377條(生產(chǎn)速率60MB/s),平均時延394毫秒,后續(xù)就是各種時延的分布范圍

./kafka-consumer-perf-test.sh --topic test-topic1 --messages 1000000 --fetch-size 40000 --broker-list 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092

使用--topic指定topic
使用--messages指定需要消費的消息數(shù)量
使用--fetch-size指定一次獲取的消息總大小
使用broker-list來指定消費的broker

Kraft模式下Kafka腳本的使用
反饋的指標是 Kafka集群消費100萬條消息用時23秒,消息總大小3906MB,平均每秒消費速率168MB,消息總數(shù)量1000015條,每秒消費消息數(shù)量43185條

(5)命令行驗證生產(chǎn)實時消費

使用kafka-console-producer.sh實時生產(chǎn)消息
使用kafka-console-consumer.sh實時消費消息

./kafka-console-producer.sh --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 --topic test-topic2

Kraft模式下Kafka腳本的使用

./kafka-console-consumer.sh --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 --topic test-topic2

Kraft模式下Kafka腳本的使用

同時在Kafka管控平臺上也能夠實時查詢到test-topic2上的消息
Kraft模式下Kafka腳本的使用

同時我們也可以指定offset來使消費者從指定offset開始消費,對于生產(chǎn)環(huán)境有利于故障恢復
./kafka-console-consumer.sh --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 --topic test-topic2 --partition 1 --offset 2
可以看到由于輸入的消息key相同所以消息都分到了partition1上,所以在消費消息時需要指定分區(qū)partition1,然后指定offset消息位移量2,就可以讀取到offset=2對應的消息3以及之后的所有消息了

Kraft模式下Kafka腳本的使用

(6)查詢消費者組信息

使用kafka-consumer-groups.sh

./kafka-consumer-groups.sh --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 --list

Kraft模式下Kafka腳本的使用

./kafka-consumer-groups.sh --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 --group perf-consumer-91301 --describe
通過--list查詢到消費者組列表再通過--describe查詢具體信息

Kraft模式下Kafka腳本的使用

可以看到在test-topic1主題上的partition5和partition0的Lag為18,代表著兩個分區(qū)還有18條消息沒有消費,通過kafka-console-consumer.sh嘗試消費partition5的剩余18條消息
./kafka-console-consumer.sh --bootstrap-server 172.29.145.157:9092,172.29.145.182:9092,172.29.145.183:9092 --topic test-topic1 --group perf-consumer-91301

ps:很多很多消息,因為輸入的時候一條消息的大小由--record-size決定,設置為4096KB...
此時再通過describe查看消費者組情況看在partition5和partition0上是否還有消息Lag

Kraft模式下Kafka腳本的使用
可以看到消息都消費完了,Lag也已為0,再執(zhí)行相同的命令只會等待而不會繼續(xù)輸出消息文章來源地址http://www.zghlxwxcb.cn/news/detail-710838.html

到了這里,關于Kraft模式下Kafka腳本的使用的文章就介紹完了。如果您還想了解更多內容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。如若轉載,請注明出處: 如若內容造成侵權/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領支付寶紅包贊助服務器費用

相關文章

  • 【Kafka】Kafka3.1.1集群搭建指南KRaft版本

    目錄 一、背景和描述 二、資源情況 三、技術選型 四、部署Kraft版本集群 五、配置SSL模式 六、Springboot使用SSL集成 參考資料 考慮資源安全性,需要搭建不依賴Zookeeper的kafka集群環(huán)境,并且配置SSL訪問控制 Apache Kafka Raft 是一種共識協(xié)議,它的引入是為了消除 Kafka 對 ZooKeeper 的

    2024年02月03日
    瀏覽(21)
  • 【kafka+Kraft模式集群+SASL安全認證】

    【kafka+Kraft模式集群+SASL安全認證】

    準備3個kafka,我這里用的kafka版本為:kafka_2.13-3.6.0,下載后解壓: 更改解壓后的文件名稱: cp kafka_2.13-3.6.0 kafka_2.13-3.6.0-1/2/3 分別得到kafka_2.13-3.6.0-1、kafka_2.13-3.6.0-2、kafka_2.13-3.6.0-3 copy一份config/kraft/server.properties配置文件,修改名稱 server-sasl.properties 進入各個config/kraft/server

    2024年02月03日
    瀏覽(27)
  • (二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署

    (二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署

    本節(jié)內容主要介紹kafka3.0版本以后,一種新的kafka集群搭建模式看kraft,在該模式下,kafka高可用不在依賴于zookeeper,用 controller 節(jié)點代替 zookeeper,元數(shù)據(jù)保存在 controller 中,由 controller 直接進 行 Kafka 集群管理。 ①解壓kafka安裝包到/opt/module/kafka-kraft目錄下 - 命令: ②修改k

    2024年02月08日
    瀏覽(28)
  • 徹底搞懂Docker容器與Kraft模式kafka集群關于消息大小相關參數(shù)設置

    徹底搞懂Docker容器與Kraft模式kafka集群關于消息大小相關參數(shù)設置

    部署背景: 在DockerHub拉取的bitnami/kafka:3.4.1 鏡像,如果要部署在Docker-Swarm集群或者單Docker部署,對于消息大小設置需要添加參數(shù) KAFKA_CFG_MESSAGE_MAX_BYTES,如果設置為其他不符合規(guī)范的參數(shù)格式,會導致容器一直啟動不了。 PS:KAFKA_CFG_MESSAGE_MAX_BYTES 是針對Broker級別消息大小限制

    2024年02月08日
    瀏覽(24)
  • 使用kafka還在依賴Zookeeper,kraft模式了解下

    使用kafka還在依賴Zookeeper,kraft模式了解下

    ? Kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng),它可以處理消費者在網(wǎng)站中的所有動作流數(shù)據(jù)。其核心組件包含Producer、Broker、Consumer,以及依賴的Zookeeper集群。其中Zookeeper集群是Kafka用來負責集群元數(shù)據(jù)的管理、控制器的選舉等。 ? 用過kafka的開發(fā)者應該知道,每次啟動

    2024年02月10日
    瀏覽(22)
  • Kafka 3.4.0 kraft 集群搭建

    Apache 軟件基金會發(fā)布了包含許多新特性和改進的 Kafka 3.3.1。這是第一個標志著可以在生產(chǎn)環(huán)境中使用 KRaft(Kafka Raft)共識協(xié)議的版本。在幾年的開發(fā)過程中,它先是在 Kafka 2.8 早期訪問版本中發(fā)布,然后又在 Kafka 3.0 預覽版本中發(fā)布。 KRaft 是一種共識協(xié)議,可以直接在 Kafk

    2024年02月13日
    瀏覽(19)
  • Kafka KRaft模式探索

    Kafka KRaft模式探索

    Kafka是一種高吞吐量的分布式發(fā)布訂閱消息系統(tǒng),它可以處理消費者在網(wǎng)站中的所有動作流數(shù)據(jù)。其核心組件包含Producer、Broker、Consumer,以及依賴的Zookeeper集群。其中Zookeeper集群是Kafka用來負責集群元數(shù)據(jù)的管理、控制器的選舉等。 目前,Kafka在使用的過程當中,會出現(xiàn)一些

    2024年02月05日
    瀏覽(21)
  • Kafka系列之:Kraft模式

    Kafka元數(shù)據(jù)存儲在zookeeper中,運行時動態(tài)選舉controller,由controller進行Kafka集群管理。 Kraft模式不再依賴zookeeper集群,用三臺controller節(jié)點代替zookeeper,元數(shù)據(jù)保存在controller中,由controller直接進行Kafka集群管理。 Kraft的好處有以下幾個: Kafka不再依賴外部框架,而是能夠獨立運

    2024年02月12日
    瀏覽(21)
  • 【運維】Kafka高可用: KRaft(不依賴zookeeper)集群搭建

    【運維】Kafka高可用: KRaft(不依賴zookeeper)集群搭建

    本文主要介紹了 kafka raft集群架構: 與舊架構的不同點,有哪些優(yōu)勢,哪些問題 架構成員有哪些,怎么規(guī)劃。 三節(jié)點集群安裝、啟動與測試 在舊的架構中 Kafka集群包含 多個broker節(jié)點和一個ZooKeeper 集群 。如上圖集群結構:4個broker節(jié)點和3個ZooKeeper節(jié)點。Kafka 集群的controller在

    2024年02月03日
    瀏覽(32)
  • 七、Kafka-Kraft 模式

    七、Kafka-Kraft 模式

    左圖為 Kafka 現(xiàn)有架構,元數(shù)據(jù)在 zookeeper 中,運行時動態(tài)選舉 controller,由controller 進行 Kafka 集群管理 右圖為 kraft 模式架構(實驗性),不再依賴 zookeeper 集群,而是用三臺 controller 節(jié)點代替 zookeeper,元數(shù)據(jù)保存在 controller 中,由 controller 直接進行 Kafka 集群管理。 這樣做的

    2024年02月11日
    瀏覽(16)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領取紅包,優(yōu)惠每天領

二維碼1

領取紅包

二維碼2

領紅包