国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署

這篇具有很好參考價值的文章主要介紹了(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

前言

本節(jié)內(nèi)容主要介紹kafka3.0版本以后,一種新的kafka集群搭建模式看kraft,在該模式下,kafka高可用不在依賴于zookeeper,用 controller 節(jié)點代替 zookeeper,元數(shù)據(jù)保存在 controller 中,由 controller 直接進(jìn) 行 Kafka 集群管理。

正文

①解壓kafka安裝包到/opt/module/kafka-kraft目錄下

- 命令:

mkdir -p /opt/module/kafka-kraft
tar -zxvf kafka_2.12-3.0.0.tgz -C /opt/module/kafka-kraft

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

②修改kafka目錄下/opt/module/kafka-kraft/kafka_2.12-3.0.0/config/kraft的配置文件server.properties

?-?server.properties配置文件目錄(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

- 服務(wù)器基礎(chǔ)配置

############################# Server Basics #############################

# The role of this server. Setting this puts us in KRaft mode
process.roles=broker,controller

# The node id associated with this instance's roles
node.id=1

# The connect string for the controller quorum
controller.quorum.voters=1@hadoop101:9093,2@hadoop102:9093,3@hadoop103:9093

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

- 對外暴露地址的配置

advertised.listeners=PLAINTEXT://hadoop101:9092

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

- 配置數(shù)據(jù)存儲目錄

log.dirs=/opt/module/kafka-kraft/kafka_2.12-3.0.0/data

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

③同步kafka的kraft模式安裝包到hadoop102和hadoop103,并修改配置

?- 同步kafka安裝包(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

- 修改hadoop102的server.properties配置文件

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

- 修改hadoop103的server.properties配置文件

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

④初始化kafka-kraft集群數(shù)據(jù)目錄

-??生成存儲目錄唯一 ID

bin/kafka-storage.sh random-uuid

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

-?用該ID格式化kafka集群的存儲目錄

bin/kafka-storage.sh format -t 4l-ahopRSLSJlH-qxczhYg -c /opt/module/kafka-kraft/kafka_2.12-3.0.0/config/kraft/server.properties

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

⑤創(chuàng)建kafka集群啟停腳本

?- 在kafka的bin目錄創(chuàng)建集群啟停腳本my-kafka-kraft.sh

#! /bin/bash
case $1 in
"start"){
 for i in hadoop101 hadoop102 hadoop103
 do
 echo " --------啟動 $i Kafka2-------"
 ssh $i "/opt/module/kafka-kraft/kafka_2.12-3.0.0/bin/kafka-server-start.sh -daemon /opt/module/kafka-kraft/kafka_2.12-3.0.0/config/kraft/server.properties"
 done
};;
"status"){
 for i in hadoop101 hadoop102 hadoop103
 do
 echo =============== $i ===============
 ssh $i jps
 done
};;
"stop"){
 for i in hadoop101 hadoop102 hadoop103
 do
 echo " --------停止 $i Kafka2-------"
 ssh $i "/opt/module/kafka-kraft/kafka_2.12-3.0.0/bin/kafka-server-stop.sh "
 done
};;
esac

- 在hadoop101服務(wù)器創(chuàng)建my-kafka-kraft.sh腳本

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

?⑥配置kafka-kraft環(huán)境變量

- 修改環(huán)境變量配置

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

- 同步環(huán)境變量配置

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

⑦啟動集群、停止集群、查看集群狀態(tài)

?(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署,大數(shù)據(jù),# MQ,# kafka,大數(shù)據(jù),kafka,分布式

結(jié)語

至此,關(guān)于kafka集群之Kraft模式安裝與部署到這里就結(jié)束了,我們下期見。。。。。。文章來源地址http://www.zghlxwxcb.cn/news/detail-712599.html

到了這里,關(guān)于(二十六)大數(shù)據(jù)實戰(zhàn)——kafka集群之Kraft模式安裝與部署的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進(jìn)行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • 【kafka+Kraft模式集群+SASL安全認(rèn)證】

    【kafka+Kraft模式集群+SASL安全認(rèn)證】

    準(zhǔn)備3個kafka,我這里用的kafka版本為:kafka_2.13-3.6.0,下載后解壓: 更改解壓后的文件名稱: cp kafka_2.13-3.6.0 kafka_2.13-3.6.0-1/2/3 分別得到kafka_2.13-3.6.0-1、kafka_2.13-3.6.0-2、kafka_2.13-3.6.0-3 copy一份config/kraft/server.properties配置文件,修改名稱 server-sasl.properties 進(jìn)入各個config/kraft/server

    2024年02月03日
    瀏覽(27)
  • 徹底搞懂Docker容器與Kraft模式kafka集群關(guān)于消息大小相關(guān)參數(shù)設(shè)置

    徹底搞懂Docker容器與Kraft模式kafka集群關(guān)于消息大小相關(guān)參數(shù)設(shè)置

    部署背景: 在DockerHub拉取的bitnami/kafka:3.4.1 鏡像,如果要部署在Docker-Swarm集群或者單Docker部署,對于消息大小設(shè)置需要添加參數(shù) KAFKA_CFG_MESSAGE_MAX_BYTES,如果設(shè)置為其他不符合規(guī)范的參數(shù)格式,會導(dǎo)致容器一直啟動不了。 PS:KAFKA_CFG_MESSAGE_MAX_BYTES 是針對Broker級別消息大小限制

    2024年02月08日
    瀏覽(24)
  • (二十八)大數(shù)據(jù)實戰(zhàn)——Flume數(shù)據(jù)采集之kafka數(shù)據(jù)生產(chǎn)與消費集成案例

    (二十八)大數(shù)據(jù)實戰(zhàn)——Flume數(shù)據(jù)采集之kafka數(shù)據(jù)生產(chǎn)與消費集成案例

    本節(jié)內(nèi)容我們主要介紹一下flume數(shù)據(jù)采集和kafka消息中間鍵的整合。通過flume監(jiān)聽nc端口的數(shù)據(jù),將數(shù)據(jù)發(fā)送到kafka消息的first主題中,然后在通過flume消費kafka中的主題消息,將消費到的消息打印到控制臺上。集成使用flume作為kafka的生產(chǎn)者和消費者。關(guān)于nc工具、flume以及kafka的

    2024年02月09日
    瀏覽(20)
  • (十六)大數(shù)據(jù)實戰(zhàn)——安裝使用mysql版的hive服務(wù)

    (十六)大數(shù)據(jù)實戰(zhàn)——安裝使用mysql版的hive服務(wù)

    hive默認(rèn)使用的是內(nèi)嵌據(jù)庫 derby ,Derby 是一個嵌入式數(shù)據(jù)庫,可以輕松地以庫的形式集成到應(yīng)用程序中。它不需要獨立的服務(wù)器進(jìn)程,所有的數(shù)據(jù)存儲在應(yīng)用程序所在的文件系統(tǒng)中。為了支持hive服務(wù)更方便的使用,我們使用mysql數(shù)據(jù)庫的方式,使得服務(wù)部署更加靈活。數(shù)據(jù)庫

    2024年02月13日
    瀏覽(17)
  • kafka 安裝 以及 Kraft 模式、安全認(rèn)證配置

    kafka 安裝 以及 Kraft 模式、安全認(rèn)證配置

    常見安裝:zookeeper + kafka zookeeper 單節(jié)點安裝 : apach官網(wǎng)下載對應(yīng)包:apache-zookeeper-3.7.1-bin.tar.gz 修改對應(yīng)配置文件 /conf/zoo_sample.cfg ,配置端口以及數(shù)據(jù)目錄 sh zkServer.sh start 啟動 、 sh zkServer.sh stop 停止、 sh zkServer.sh status 狀態(tài) sh zkCli.sh -server 客戶端 zookeeper 集群安裝: 在每個

    2024年02月10日
    瀏覽(31)
  • (三十六)大數(shù)據(jù)實戰(zhàn)——ClickHouse數(shù)據(jù)庫的部署安裝實現(xiàn)

    (三十六)大數(shù)據(jù)實戰(zhàn)——ClickHouse數(shù)據(jù)庫的部署安裝實現(xiàn)

    ClickHouse是俄羅斯的Yandex于2016年開源的列式存儲數(shù)據(jù)庫 DBMS ),使用C語言編寫,主要用于在線分析處理查詢( OLAP ),能夠使用SQL查詢實時生成分析數(shù)據(jù)報告。 列式存儲 :數(shù)據(jù)按列進(jìn)行存儲,這使得 ClickHouse 能夠高效地處理聚合查詢和分析操作; 高性能 :ClickHouse 被設(shè)計用

    2024年02月19日
    瀏覽(19)
  • kafka3.4.0單機(jī)版安裝配置教程(kraft模式舍棄ZK)

    kafka3.4.0單機(jī)版安裝配置教程(kraft模式舍棄ZK)

    下載地址:https://archive.apache.org/dist/kafka/3.4.0/

    2024年04月17日
    瀏覽(20)
  • kafka各種環(huán)境安裝(window,linux,docker,k8s),包含KRaft模式

    kafka各種環(huán)境安裝(window,linux,docker,k8s),包含KRaft模式

    1、 本次實驗,采用kafka版本為 3.4.0 2、我們首先需要了解一下,一個 Kafka 集群是由下列幾種類型的節(jié)點構(gòu)成的,它們充當(dāng)著不同的作用: Broker 節(jié)點 :即 代理節(jié)點 ,是 Kafka 中的工作節(jié)點,充當(dāng)消息隊列的角色, 負(fù)責(zé)儲存和處理消息 ,每個 Broker 都是一個獨立的 Kafka 服務(wù)器

    2024年02月10日
    瀏覽(30)
  • (二十四)大數(shù)據(jù)實戰(zhàn)——Flume數(shù)據(jù)流監(jiān)控之Ganglia的安裝與部署

    (二十四)大數(shù)據(jù)實戰(zhàn)——Flume數(shù)據(jù)流監(jiān)控之Ganglia的安裝與部署

    本節(jié)內(nèi)容我們主要介紹一下Flume數(shù)據(jù)流的監(jiān)控工具Ganglia。Ganglia是一個開源的分布式系統(tǒng)性能監(jiān)控工具。它被設(shè)計用于監(jiān)視大規(guī)模的計算機(jī)群集(包括集群、網(wǎng)格和云環(huán)境),以便收集和展示系統(tǒng)和應(yīng)用程序的性能數(shù)據(jù)。Ganglia 可以輕松地擴(kuò)展到數(shù)千臺計算機(jī)節(jié)點,并支持跨多

    2024年02月08日
    瀏覽(18)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包