環(huán)境條件
虛擬機 VMWare【建議4G、4核】
操作系統(tǒng) CentOS7
文章后面記錄了部署過程出現(xiàn)的一系列問題,建議先對照問題配置下環(huán)境。
前期準(zhǔn)備
1、關(guān)閉防火墻
systemctl stop firewalld
systemctl disable firewalld
2、關(guān)閉selinux
???????# 永久關(guān)閉(需重啟)
sed -i 's/enforcing/disabled/' /etc/selinux/config
reboot
#臨時關(guān)閉
setenforce 0
3、關(guān)閉swap分區(qū)
# 永久關(guān)閉(需重啟)
sed -ri 's/.*swap.*/#&/' /etc/fstab
reboot
#臨時關(guān)閉
swapoff -a
4、設(shè)置主機名
# 在master上執(zhí)行
hostnamectl set-hostname vm1
# 在node1上執(zhí)行
hostnamectl set-hostname vm2
# 在node2上執(zhí)行
hostnamectl set-hostname vm3
5、???????在每個節(jié)點添加時間同步
# 安裝ntpdate時間同步插件
yum install ntpdate -y
# 開啟時間同步
ntpdate time.windows.com
6、所有節(jié)點安裝Docker
# 獲取鏡像源
wget https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo -O /etc/yum.repos.d/docker-ce.repo
# 安裝
yum -y install docker-ce
# 設(shè)置開機自啟動并啟動
systemctl enable docker && systemctl start docker
# 查看版本
docker version
# 設(shè)置鏡像加速器、設(shè)置容器日志保留限制
sudo mkdir -p /etc/docker
sudo tee /etc/docker/daemon.json <<-'EOF'
{
"registry-mirrors": ["https://b9pmyelo.mirror.aliyuncs.com"],
"log-driver": "json-file",
"log-opts": {"max-size": "100m", "max-file": "3"}
}
EOF
# 重載配置
sudo systemctl daemon-reload
# 重啟docker
sudo systemctl restart docker
安裝步驟
rancher中文官網(wǎng)地址:Rancher文檔 | K8S文檔 | Rancher | Rancher文檔
1、鏡像拉取
此處針對rancher2.x
docker pull rancher/rancher:v2.5.12
2、查看鏡像及鏡像詳細(xì)信息
docker images
docker inspect rancher/rancher:v2.5.12
3、創(chuàng)建掛載目錄
rancher鏡像主要有四個volume目錄(rnacher、log、kubelet、cni),默認(rèn)方式是采用匿名卷的方式,可以使用掛載到指定的主機目錄方式來進行數(shù)據(jù)卷持久化。
mkdir -p /usr/local/rancher/rancher
mkdir -p /usr/local/rancher/log
mkdir -p /usr/local/rancher/kubelet
mkdir -p /usr/local/rancher/cni
4、啟動容器
docker run --name rancher -d --privileged --restart=always -p 80:80 -p 443:443 \
-v /usr/local/rancher/rancher:/var/lib/rancher \
-v /usr/local/rancher/log:/var/log \
-v /usr/local/rancher/cni:/var/lib/cni \
-v /usr/local/rancher/kubelet:/var/lib/kubelet \
rancher/rancher:v2.5.12
# 注意
# 如果部署rancher的主機需要安裝k8s節(jié)點,那就要把rancher的80/443端口設(shè)置成其他的端口,以免和k8s的ingress端口沖突。
5、訪問可視化界面
???????【訪問自己虛擬機的地址】
設(shè)置登錄密碼進入下一步并設(shè)置rancher server url【確保集群的每個節(jié)點都能訪問該地址】
進入管理界面后可以修改界面語言
6、配置鏡像
在rancher-ui中,系統(tǒng)設(shè)置 -> 高級設(shè)置 -> system-default-registry -> 點擊升級,輸入 registry.cn-hangzhou.aliyuncs.com 后保存即可
7、添加集群
添加集群 -> 自定義 -> 錄入基本配置信息后下一步 -> 勾選Etcd和Control Plane -> 復(fù)制需要在主機SSH運行的命令 -> 執(zhí)行命令 -> 界面提示主機注冊成功后點擊完成 -> 等待集群狀態(tài)變成 Active【需要點時間】
關(guān)于部署更新pod
關(guān)于部署應(yīng)用,本人用的都是shell+Dockerfile的形式,先在集群上面手動創(chuàng)建app,然后再通過jenkins執(zhí)行shell腳本,把應(yīng)用打包好,然后打包成docker鏡像,推送到遠(yuǎn)程倉庫,最后使用rancher kubectl命令實現(xiàn)pod的升級。
需要提前安裝rancher-cli,kubectl,并配置環(huán)境變量。
# 登錄rancher,只需要登錄一次就可以無限切換集群了(也就是下面的切換集群命令)。
rancher login https://127.0.0.1:9017/v3 --token token-jftp9:56rh9l88vngxgsd4tgrtvrzx52dr2sfx79h6dnn7b4j56lq5j8rn5q
# 切換集群
rancher context switch 集群id?
以下是一些常用的配置項。
1、java應(yīng)用
build.sh
#!/bin/bash
java -version
mvn -version
mvn clean package -Dmaven.test.skip=true -e -U
time=$(date "+%Y%m%d%H%M%S")
env=$env
project="app"
commit_branch=${branch:7}
commit_seql=$(git rev-parse --short HEAD)
commit_branch="master"
env="dev"
docker login -u user -p password
image_name=$commit_branch-$commit_seql-$time
docker build -t $image_name .
docker_tag=docker/app:$project-$env-$image_name
docker tag $image_name $docker_tag
docker push $docker_tag
docker rmi -f $docker_tag
echo "本次準(zhǔn)備發(fā)布到[$env]環(huán)境的鏡像地址是[$docker_tag]"
cluster="c-gtzwq:p-kz5h4"
namespace="default"
echo "開始部署"
rancher context switch $cluster
rancher kubectl set image deployment/$project $project=$docker_tag -n $namespace
echo "本次部署完成"
Dockerfile
FROM hdfk7/open-jdk-17
COPY docker-entrypoint.sh /docker-entrypoint.sh
COPY target/*.jar /
RUN chmod +x /docker-entrypoint.sh
ENTRYPOINT ["/docker-entrypoint.sh"]
# hdfk7/open-jdk-17集成了skywalking
docker-entrypoint.sh
#!/bin/bash
if [[ ! -z "$(which java)" ]]; then
JAVA_OPTS="${JAVA_OPTS}"
APP_OPTS="${APP_OPTS}"
echo "JAVA_OPTS=${JAVA_OPTS}"
echo "APP_OPTS=${APP_OPTS}"
echo "INFO: auto detect find jar on / and then bootup..."
jar=$(find /*.jar 2>/dev/null | egrep -v sources.jar | egrep -v tests.jar | head -n 1)
echo "jar=${jar}"
if [[ -n "${jar}" ]]; then
echo "run ${jar}"
exec java $JAVA_OPTS $APP_OPTS -jar ${jar}
else
echo "cant detect /app.jar, will exit"
sleep 20
exit 1
fi
fi
2、web應(yīng)用
build.sh
#!/bin/bash
node -v
npm -v
npm install
npm run build
time=$(date "+%Y%m%d%H%M%S")
env=$env
project="app"
commit_branch=${branch:7}
commit_seql=$(git rev-parse --short HEAD)
commit_branch="master"
env="dev"
docker login -u user -p password
image_name=$commit_branch-$commit_seql-$time
docker build -t $image_name .
docker_tag=docker/app:$project-$env-$image_name
docker tag $image_name $docker_tag
docker push $docker_tag
docker rmi -f $docker_tag
echo "本次準(zhǔn)備發(fā)布到[$env]環(huán)境的鏡像地址是[$docker_tag]"
cluster="c-gtzwq:p-kz5h4"
namespace="default"
echo "開始部署"
rancher context switch $cluster
rancher kubectl set image deployment/$project $project=$docker_tag -n $namespace
echo "本次部署完成"
Dockerfile
FROM nginx
RUN ln -sf /usr/share/zoneinfo/Asia/Shanghai /etc/localtime && rm -rf /etc/nginx/conf.d/* && rm -rf /etc/nginx/nginx.conf && rm -rf /usr/share/nginx/html/*
COPY dist /usr/share/nginx/html/
COPY nginx.conf /etc/nginx/nginx.conf
nginx.conf
user nginx;
worker_processes auto;
error_log /var/log/nginx/error.log;
pid /run/nginx.pid;
include /usr/share/nginx/modules/*.conf;
events {
worker_connections 9000;
}
http {
log_format main '$remote_addr - $remote_user [$time_local] "$request" '
'$status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for"';
access_log /var/log/nginx/access.log main;
sendfile on;
tcp_nopush on;
tcp_nodelay on;
server_tokens off;
keepalive_timeout 65;
types_hash_max_size 2048;
include /etc/nginx/mime.types;
default_type application/octet-stream;
server {
listen 80;
root /usr/share/nginx/html;
location / {
try_files $uri $uri/ /index.html;
}
gzip on;
gzip_buffers 32 4K;
gzip_comp_level 6;
gzip_min_length 100;
gzip_types application/javascript text/css text/xml;
gzip_disable "MSIE [1-6]\."; #配置禁用gzip條件,支持正則。此處表示ie6及以下不啟用gzip(因為ie低版本不支持)
gzip_vary on;
}
}
問題處理
1、啟動rancher容器服務(wù)報 WARNING: IPv4 forwarding is disabled. Networking will not work.錯誤
修改配置文件: vim /usr/lib/sysctl.d/00-system.conf 追加內(nèi)容: net.ipv4.ip_forward=1 重啟網(wǎng)絡(luò): systemctl restart network 將之前錯誤的docker刪掉,重新創(chuàng)建啟動即可 docker stop 容器ID docker rm 容器ID
2、集群創(chuàng)建過程報錯 can not find RKE state file
原因是 hostname 和 DNS 的解析規(guī)則不匹配,需要修改 hostname vim /etc/hostname 或者 hostnamectl set-hostname master
3、rancher-agent容器服務(wù)啟動不起來
可能是 rancher server url 配置的不正確
4、集群安裝過程報錯 [etcd] Failed to bring up Etcd Plane: [etcd] Etcd Cluster is not healthy
可能是上個集群的一些配置沒有清除,導(dǎo)致配置文件不同步之類的原因,在安裝rancher的機器上執(zhí)行如下命令: docker stop $(docker ps -aq) docker system prune -f docker volume rm $(docker volume ls -q) docker image rm $(docker image ls -q) umount $(df -HT | grep '/var/lib/kubelet/pods' | awk '{print $7}') rm -rf /etc/ceph /etc/cni /etc/kubernetes /opt/cni /opt/rke /run/secrets/kubernetes.io /run/calico /run/flannel /var/lib/calico /var/lib/etcd /var/lib/cni /var/lib/kubelet /var/lib/rancher/rke/log /var/log/containers /var/log/pods /var/run/calico /usr/local/software/rancher-home/
5、創(chuàng)建集群過程報錯 Error response from daemon: Get?https://registry-1.docker.io/v2/:?dial tcp: lookup registry-1.docker
vi /etc/resolv.conf 添加 nameserver 8.8.8.8和nameserver 114.114.114.114 重啟網(wǎng)絡(luò) systemctl restart network
6、創(chuàng)建集群時一直卡在 Pre-pulling kubernetes images 不動
rancher-ui中,系統(tǒng)設(shè)置 -> 高級設(shè)置 -> system-default-registry -> 點擊升級,輸入 registry.cn-hangzhou.aliyuncs.com 后保存即可
最后
該文章內(nèi)容都是本人親自實踐后的,該內(nèi)容參考了以下博文。
一文教你從零快速搭建k8s集群_小螺旋丸的博客-CSDN博客
Docker 設(shè)置日志文件限制最多3個,最大5M_docker設(shè)置日志上限_qiandeqiande的博客-CSDN博客文章來源:http://www.zghlxwxcb.cn/news/detail-439728.html
docker安裝部署rancher???????文章來源地址http://www.zghlxwxcb.cn/news/detail-439728.html
到了這里,關(guān)于docker安裝部署rancher、rancher kubectl更新pod。的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!