国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

ansible部署kafka集群

這篇具有很好參考價值的文章主要介紹了ansible部署kafka集群。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點(diǎn)擊"舉報違法"按鈕提交疑問。

ansible部署kafka集群

其中一臺作為Ansible的母機(jī)并命名為ansible,另外三臺云主機(jī)命名為node1、node2、node3,通過附件中的/ansible/ansible.tar.gz軟件包在ansible節(jié)點(diǎn)安裝Ansible服務(wù);使用這一臺母機(jī),編寫Ansible腳本(在/root目錄下創(chuàng)建example目錄作為Ansible工作目錄,部署的入口文件命名為cscc_install.yaml),編寫Ansible腳本使用roles的方式對其他三臺云主機(jī)進(jìn)行安裝kafka集群的操作(zookeeper和kafka的安裝壓縮包在gpmall-single.tar.gz壓縮包中,將zookeeper和kafka的壓縮包解壓到node節(jié)點(diǎn)的/opt目錄下進(jìn)行安裝)。

自行配置/etc/hosts文件(根據(jù)實(shí)際情況修改)

10.196.110.10 node1
10.196.110.20 node2
10.196.110.30 node3
第一種方式
mkdir -p example/roles/kafka/{files,handlers,meta,tasks,templates,vars}

第二種方式
ansible-galaxy init kafka  #初始化

下載需要的文件

curl -O http://10.0.0.1/ansible.tar.gz
tar xf ansible.tar.gz 
yum install -y ansible/packages/*

curl -O http://10.0.0.1/gpmall-single.tar.gz
tar xf gpmall-single.tar.gz
cp gpmall-single/zookeeper-3.4.14.tar.gz /root/example/roles/kafka/files
cp gpmall-single/kafka_2.11-1.1.1.tgz /root/example/roles/kafka/files

寫一個yum源文件安裝java
cat >> /root/example/roles/kafka/files/yum.repo <<EOF
[centos]
name=centos
baseurl=http://10.0.0.1/Competition_2021/centos/
gpgcheck=0
enabled=1
EOF
vim /etc/ansible/hosts
最后加上
[node]
node1  node_id=1
node2  node_id=2
node3  node_id=3

在example文件下面編寫cscc_install.yaml文件

---
- hosts: node
  remote_user: root
  roles:
    - kafka

在example/roles/kafka/tasks/下面編寫main.yaml

---
    - shell: rm -f /etc/yum.repos.d/*
    - copy: src=yum.repo dest=/etc/yum.repos.d/yum.repo
    - yum: name=java* state=installed
    - unarchive: src=zookeeper-3.4.14.tar.gz dest=/opt/
    - file: path=/tmp/zookeeper/  state=directory
    - shell: echo "{{node_id}}" > /tmp/zookeeper/myid
    - template: src=zoo.cfg.j2 dest=/opt/zookeeper-3.4.14/conf/
    - shell: cd /opt/zookeeper-3.4.14/bin && ./zkServer.sh restart
    - shell: cd /opt/zookeeper-3.4.14/bin && ./zkServer.sh status
    - unarchive: src=kafka_2.11-1.1.1.tgz dest=/opt/
    - template: src=server.properties.j2  dest=/opt/kafka_2.11-1.1.1/config
/server.properties
    - shell: /opt/kafka_2.11-1.1.1/bin/kafka-server-start.sh -daemon /opt/k
afka_2.11-1.1.1/config/server.properties

zookeeper模板

vim example/roles/kafka/templates/zoo.cfg.j2
tickTime=2000
initLimit=10
syncLimit=5
dataDir=/tmp/zookeeper
clientPort=2181
{% for host in ansible_play_batch %}
server.{{ loop.index }}={{ host }}:2888:3888
{% endfor %}

kafka模板

vim example/roles/kafka/templates/server.properties.j2

broker.id={{node_id}}  
listeners=PLAINTEXT://{{inventory_hostname}}:9092
num.network.threads=3
num.io.threads=8
socket.send.buffer.bytes=102400
socket.receive.buffer.bytes=102400
socket.request.max.bytes=104857600
log.dirs=/tmp/kafka-logs
num.partitions=1
num.recovery.threads.per.data.dir=1
offsets.topic.replication.factor=1
transaction.state.log.replication.factor=1
transaction.state.log.min.isr=1
log.retention.hours=168
log.segment.bytes=1073741824
log.retention.check.interval.ms=300000
zookeeper.connect={% for host in ansible_play_batch %}{{ host }}:2181,{% endfor %}
zookeeper.connection.timeout.ms=6000
group.initial.rebalance.delay.ms=0

樹形結(jié)構(gòu)

example/
├── cscc_install.yaml
├── group_vars
└── roles
    └── kafka
        ├── files
        │   ├── kafka_2.11-1.1.1.tgz
        │   ├── yum.repo
        │   └── zookeeper-3.4.14.tar.gz
        ├── handlers
        ├── meta
        ├── tasks
        │   └── main.yaml
        ├── templates
        │   ├── server.properties.j2
        │   └── zoo.cfg.j2
        └── vars

運(yùn)行文章來源地址http://www.zghlxwxcb.cn/news/detail-814433.html

ansible-playbook  cscc_install.yaml 

到了這里,關(guān)于ansible部署kafka集群的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請點(diǎn)擊違法舉報進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

  • 部署SeaTunnel分布式集群

    深入理解SeaTunnel:易用、高性能、支持實(shí)時流式和離線批處理的海量數(shù)據(jù)集成平臺 SeaTunnel Engine 是 SeaTunnel 的默認(rèn)引擎。SeaTunnel的安裝包中已經(jīng)包含了SeaTunnel Engine的所有內(nèi)容。 在/etc/profile.d/seatunnel.sh中配置環(huán)境變量 SeaTunnel Engine 支持兩種設(shè)置 jvm 選項(xiàng)的方式。 將 JVM 選項(xiàng)添加

    2024年02月09日
    瀏覽(26)
  • GreenPlum分布式集群部署實(shí)戰(zhàn)

    ???????????? 哈嘍!大家好,我是【IT邦德】,江湖人稱jeames007,10余年DBA及大數(shù)據(jù)工作經(jīng)驗(yàn) 一位上進(jìn)心十足的【大數(shù)據(jù)領(lǐng)域博主】!?????? 中國DBA聯(lián)盟(ACDU)成員,目前服務(wù)于工業(yè)互聯(lián)網(wǎng) 擅長主流Oracle、MySQL、PG、高斯及Greenplum運(yùn)維開發(fā),備份恢復(fù),安裝遷移,性能優(yōu)

    2024年02月08日
    瀏覽(19)
  • 分布式消息流處理平臺kafka(一)-kafka單機(jī)、集群環(huán)境搭建流程及使用入門

    分布式消息流處理平臺kafka(一)-kafka單機(jī)、集群環(huán)境搭建流程及使用入門

    kafka最初是LinkedIn的一個內(nèi)部基礎(chǔ)設(shè)施系統(tǒng)。最初開發(fā)的起因是,LinkedIn雖然有了數(shù)據(jù)庫和其他系統(tǒng)可以用來存儲數(shù)據(jù),但是缺乏一個可以幫助處理持續(xù)數(shù)據(jù)流的組件。 所以在設(shè)計理念上,開發(fā)者不想只是開發(fā)一個能夠存儲數(shù)據(jù)的系統(tǒng),如關(guān)系數(shù)據(jù)庫、Nosql數(shù)據(jù)庫、搜索引擎等

    2024年02月16日
    瀏覽(50)
  • minio分布式集群安裝部署實(shí)戰(zhàn)詳細(xì)手冊

    minio分布式集群安裝部署實(shí)戰(zhàn)詳細(xì)手冊

    Minio是GlusterFS創(chuàng)始人之一Anand Babu Periasamy發(fā)布新的開源項(xiàng)目。基于Apache License v2.0開源協(xié)議的對象存儲項(xiàng)目,采用Golang實(shí)現(xiàn),客戶端支Java,Python,Javacript, Golang語言。 其設(shè)計的主要目標(biāo)是作為私有云對象存儲的標(biāo)準(zhǔn)方案。主要用于存儲海量的圖片,視頻,文檔等。非常適合于存儲

    2024年02月12日
    瀏覽(25)
  • 大數(shù)據(jù)學(xué)習(xí)06-Spark分布式集群部署

    大數(shù)據(jù)學(xué)習(xí)06-Spark分布式集群部署

    配置好IP vim /etc/sysconfig/network-scripts/ifcfg-ens33 修改主機(jī)名 vi /etc/hostname 做好IP映射 vim /etc/hosts 關(guān)閉防火墻 systemctl status firewalld systemctl stop firewalld systemctl disable firewalld 配置SSH免密登錄 ssh-keygen -t rsa 下載Scala安裝包 配置環(huán)境變量 添加如下配置 使環(huán)境生效 驗(yàn)證 Spark官網(wǎng) 解壓 上

    2024年02月10日
    瀏覽(98)
  • 大數(shù)據(jù)學(xué)習(xí)02-Hadoop分布式集群部署

    大數(shù)據(jù)學(xué)習(xí)02-Hadoop分布式集群部署

    操作系統(tǒng):centos7 軟件環(huán)境:jdk8、hadoop-2.8.5 1.下載VMware,建議支持正版 2.安裝到Widows目錄下任意位置即可,安裝目錄自定義。打開VMware,界面如下: 3.創(chuàng)建虛擬機(jī) 創(chuàng)建虛擬機(jī)—選擇自定義 這一步按照默認(rèn)的配置就好 選擇系統(tǒng),安裝程序光盤映像文件iso,這里需要下載cenos鏡像

    2024年02月16日
    瀏覽(23)
  • JMeter分布式集群---部署多臺機(jī)器進(jìn)行性能壓力測試

    JMeter分布式集群---部署多臺機(jī)器進(jìn)行性能壓力測試

    有些時候,我們在進(jìn)行壓力測試的時候,隨著模擬用戶的增加,電腦的性能(CPU,內(nèi)存)占用是非常大的,為了我們得到更加理想的測試結(jié)果,我們可以利用jmeter的分布式來緩解機(jī)器的負(fù)載壓力,分布到多臺機(jī)器同時運(yùn)行。 1.Jmeter分布式執(zhí)行原理: 1、Jmeter分布式測試時,選擇

    2024年02月11日
    瀏覽(28)
  • 分布式運(yùn)用之Filebeat+Kafka+ELK 的服務(wù)部署

    分布式運(yùn)用之Filebeat+Kafka+ELK 的服務(wù)部署

    Kafka 中消息是以 topic 進(jìn)行分類的,生產(chǎn)者生產(chǎn)消息,消費(fèi)者消費(fèi)消息,都是面向 topic 的。 topic 是邏輯上的概念,而 partition 是物理上的概念,每個 partition 對應(yīng)于一個 log 文件,該 log 文件中存儲的就是 producer 生產(chǎn)的數(shù)據(jù)。Producer 生產(chǎn)的數(shù)據(jù)會被不斷追加到該 log 文件末端,

    2024年02月06日
    瀏覽(20)
  • 分布式數(shù)據(jù)庫Apache Doris HA集群部署

    ???????????? 哈嘍!大家好,我是【IT邦德】,江湖人稱jeames007,10余年DBA及大數(shù)據(jù)工作經(jīng)驗(yàn) 一位上進(jìn)心十足的【大數(shù)據(jù)領(lǐng)域博主】!?????? 中國DBA聯(lián)盟(ACDU)成員,目前服務(wù)于工業(yè)互聯(lián)網(wǎng) 擅長主流Oracle、MySQL、PG、高斯及Greenplum運(yùn)維開發(fā),備份恢復(fù),安裝遷移,性能優(yōu)

    2024年02月06日
    瀏覽(23)
  • Hadoop集群部署-(完全分布式模式,hadoop-2.7.4)

    Hadoop集群部署-(完全分布式模式,hadoop-2.7.4)

    相關(guān)軟件下載準(zhǔn)備:(推薦) 虛擬機(jī)運(yùn)行環(huán)境:VMware 16.1.1 映像文件:CentOS-7-x86_64-DVD-1810.iso 遠(yuǎn)程登錄工具:Xshell-7.0.0090.exe Xftp傳輸工具:Xftp-7.0.0111p.exe 首先掌握VMware的下載與安裝,有l(wèi)inux學(xué)習(xí)基礎(chǔ)的同學(xué)可以略看。 參考鏈接:https://mp.weixin.qq.com/s/CUiauodcjCFPIXEFEx8fOw 【軟件名

    2024年02月09日
    瀏覽(23)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包