1.使用控制臺(tái)創(chuàng)建即可
根據(jù)實(shí)例類型創(chuàng)建需要至少15分以上,可以提前創(chuàng)建好ec2實(shí)例和Secrets Manager,一會(huì)會(huì)使用到
2. 創(chuàng)建Secrets Manager (使用無認(rèn)證時(shí)請(qǐng)?zhí)^)
官方文檔:https://docs.aws.amazon.com/zh_cn/msk/latest/developerguide/msk-password.html必須以AmazonMSK_前綴,并且不能使用默認(rèn)加密方式,需要去kms創(chuàng)建一個(gè)新的
kms 詳情 截圖注意授權(quán)給當(dāng)前用戶,否則不能選擇
3.修改初始的驗(yàn)證方式
確認(rèn)等待完成
4.登錄ec2測(cè)試
按照文檔準(zhǔn)備環(huán)境
https://docs.aws.amazon.com/zh_cn/msk/latest/developerguide/mkc-create-topic.html以下是我個(gè)人總結(jié)的,實(shí)際參數(shù)按自己情況修改
sudo yum -y install java-11
wget https://archive.apache.org/dist/kafka/2.8.1/kafka_2.13-2.8.1.tgz
tar -xzf kafka_2.13-2.8.1.tgz
cd ./kafka_2.13-2.8.1/libs/
wget https://github.com/aws/aws-msk-iam-auth/releases/download/v1.1.1/aws-msk-iam-auth-1.1.1-all.jar
sasl認(rèn)證相關(guān)
https://docs.aws.amazon.com/zh_cn/msk/latest/developerguide/msk-password.html
##配置認(rèn)證文件
touch /data/users_jaas.conf
vim /data/users_jaas.conf
KafkaClient {
org.apache.kafka.common.security.scram.ScramLoginModule required
username="alice"
password="alice-secret";
};
cp /usr/lib/jvm/java-11-amazon-corretto.x86_64/lib/security/cacerts /tmp/kafka.client.truststore.jks
cd /root/kafka_2.13-2.8.1/bin
touch client_sasl.properties
vim client_sasl.properties
security.protocol=SASL_SSL
sasl.mechanism=SCRAM-SHA-512
ssl.truststore.location=/tmp/kafka.client.truststore.jks
##配置用戶密鑰文件環(huán)境變量(新加的ssh窗口 需要再次申明)
export KAFKA_OPTS=-Djava.security.auth.login.config=/data/users_jaas.conf
##配置地址方便使用(不同的認(rèn)證方式端點(diǎn)不同,可能需要添加多個(gè)變量)
export KAFKA1=b-3.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9092,b-2.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9092,b-1.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9092
export KAFKA2=b-3.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9096,b-2.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9096,b-1.democlusterht.xa7css.c2.kafka.ap-northeast-1.amazonaws.com:9096
上述的端點(diǎn)地址:在控制臺(tái)客戶端信息查看
測(cè)試連接集群和操作集群
(以下命令明文傳輸時(shí),直接不帶 ‘--command-config client_sasl.properties’ 即可)
##列出topic
./kafka-topics.sh --bootstrap-server $KAFKA1 --list --command-config client_sasl.properties
##創(chuàng)建topic
./kafka-topics.sh --bootstrap-server $KAFKA2 --create --topic <topic-name> --command-config client_sasl.properties --replication-factor 2 --partitions 1
##發(fā)送消息
./kafka-console-producer.sh --broker-list $KAFKA2 --topic topic-ht --producer.config client_sasl.properties
##接收消息
./kafka-console-consumer.sh --bootstrap-server $KAFKA2 --topic topic-ht --from-beginning --consumer.config client_sasl.properties
測(cè)試效果打開2個(gè)會(huì)話(新會(huì)話需要重新聲明環(huán)境變量)
1.創(chuàng)建topic 2.生產(chǎn) 3.消費(fèi)文章來源:http://www.zghlxwxcb.cn/news/detail-701620.html
可以看到我1會(huì)話使用的無驗(yàn)證方式,產(chǎn)生消息(只支持vpc下開啟)
2會(huì)話窗口使用sasl驗(yàn)證連接集群,消費(fèi)消息文章來源地址http://www.zghlxwxcb.cn/news/detail-701620.html
到了這里,關(guān)于aws-msk-托管kafka集群的簡(jiǎn)單使用(VPC內(nèi)部訪問:無驗(yàn)證和SASL認(rèn)證)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!