一、LVS-DR工作原理
1、LVS-DR數(shù)據(jù)包流向分析
(1)客戶端發(fā)送請求到Director Server (負載均衡器),請求的數(shù)據(jù)報文(源IP是CIP,目標IP是VIP)到達內核空間。
(2)Director Server 和Real Server 在同一個網(wǎng)絡中,數(shù)據(jù)通過二層數(shù)據(jù)鏈路層來傳輸。
(3)內核空間判斷數(shù)據(jù)包的目標IP是本機VIP,此時IPVS(IP虛擬服務器)比對數(shù)據(jù)包請求的服務是否是集群服務,是集群服務就重新封裝數(shù)據(jù)包修改源MAC地址為Director server 的MAC地址,修改目標MAC地址為Real Server 的MAC 地址,源IP 地址與目標IP地址沒有改變,然后將數(shù)據(jù)包發(fā)送給Real Server。
(4)到達Real server 的請求報文的MAC地址是自身的MAC地址,就接收此報文。數(shù)據(jù)包重新封裝報文(源IP地址為VIP,目標IP為CIP),將響應報文通過lo接口傳送給物理網(wǎng)卡然后向外發(fā)出。
(5)Real Server 直接將響應報文傳送到客戶端??蛻舳耸盏交貜蛨笪模J為得到正常的服務,而不會知道是哪一臺服務器處理的。
?2、DR模式的特點
(1)Director Server 和 Real Server 必須在同一個物理網(wǎng)絡中。
(2)Real Server 可以使用私有地址,也可以使用公網(wǎng)地址。如果使用公網(wǎng)地址,可以通過互聯(lián)網(wǎng)對 RIP 進行直接訪問。
(3)Director Server作為群集的訪問入口,但不作為網(wǎng)關使用。
(4)所有的請求報文經(jīng)由 Director Server,但回復響應報文不能經(jīng)過 Director Server。
(5)Real Server 的網(wǎng)關不允許指向 Director Server IP,即Real Server發(fā)送的數(shù)據(jù)包不允許經(jīng)過 Director Server。
(6)Real Server 上的 lo 接口配置 VIP 的 IP 地址。
二、LVS-DR中的ARP問題
1、VIP地址相同導致響應沖突
原因:
在LVS-DR負載均衡集群中,負載均衡器與節(jié)點服務器都要配置相同的VIP地址,在局域網(wǎng)中具有相同的IP地 址,勢必會造成各服務器ARP通信的紊亂。
當ARP廣播發(fā)送到LVS-DR集群時,因為負載均衡器和節(jié)點服務器都是連接到相同的網(wǎng)絡上,它們都會收到ARP廣播。
只有前端的負載均衡器進行響應,其他節(jié)點服務器不應該響應ARP廣播。
解決方案:
對節(jié)點服務器進行處理,使其不響應針對VIP的ARP請求。
使用虛接口lo:0承載VIP地址。
設置內核參數(shù) arp_ ignore=1:系統(tǒng)只響應目的IP為本地IP(物理網(wǎng)卡的地址,而不是lo網(wǎng)卡的虛接口地址)的ARP請求。
2、返回報文時經(jīng)過路由器導致的ARP緩存沖突
原因:
RealServer返回報文(源IP是VIP)經(jīng)路由器轉發(fā),重新封裝報文時,默認使用的源IP(即VIP地址)作為ARP請求報文中的源IP地址,當路由器收到此ARP請求后,將更新ARP緩存表,原有的VIP地址對應Director的MAC地址會被更新為VIP地址對應RealServer的MAC地址。當下次一收到新的請求報文時,會根據(jù)ARP緩存表中更新的信息,將新的請求報文轉發(fā)到RealServer
解決方法:
?對節(jié)點服務器進行處理,設置內核參數(shù)arp_announce=2:系統(tǒng)不使用IP包的源地址來設置ARP請求的源地址,而選擇發(fā)送接口的IP地址
三、實驗部署
- DR 服務器:192.168.247.21?
- Web 服務器1:192.168.247.22? ? ?
- Web 服務器2:192.168.247.23? ? ? ? ?
- vip(lo:0):192.168.247.180
- 客戶端:192.168.10.200
- NFS服務器:192.168.247.80? ? ??
?1.配置負載調度器(192.168.247.21) ??
systemctl stop firewalld.service
setenforce 0
modprobe ip_vs
cat /proc/net/ip_vs
yum -y install ipvsadm
(1)配置虛擬 IP 地址(VIP:192.168.247.180)
cd /etc/sysconfig/network-scripts/
cp ifcfg-ens33 ifcfg-ens33:0 #若隧道模式,復制為ifcfg-tunl0
vim ifcfg-ens33:0
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.247.180
NETMASK=255.255.255.255
ifup ens33:0
systemctl restart network
ifconfig ens33:0
(2)調整 proc 響應參數(shù)
#由于 LVS 負載調度器和各節(jié)點需要共用 VIP 地址,需要關閉 icmp 的重定向,不充當路由器。
vim /etc/sysctl.conf
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
sysctl -p
(3)配置負載分配策略
ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm
ipvsadm -C
ipvsadm -A -t 192.168.247.180:80 -s rr
ipvsadm -a -t 192.168.247.180:80 -r 192.168.247.22:80 -g #若隧道模式,-g替換為-i
ipvsadm -a -t 192.168.247.180:80 -r 192.168.247.23:80 -g
#保存設置
ipvsadm
ipvsadm -ln #查看節(jié)點狀態(tài),Route代表 DR模式
2.部署共享存儲(NFS服務器:192.168.247.80)
systemctl stop firewalld.service
setenforce 0
yum -y install nfs-utils rpcbind #安裝nfs和rpcbind服務
mkdir /opt/kgc /opt/benet
chmod 777 /opt/kgc /opt/benet
vim /etc/exports #配置NFS共享文件
/usr/share *(ro,sync)
/opt/kgc 192.168.247.0/24(rw,sync)
/opt/benet 192.168.247.0/24(rw,sync)
systemctl start nfs.service
systemctl start rpcbind.service
?3.配置節(jié)點服務器(192.168.247.22、192.168.247.23) ?
systemctl stop firewalld.service
setenforce 0
(1)配置虛擬 IP 地址(VIP:192.168.247.180)
#此地址僅用作發(fā)送 Web響應數(shù)據(jù)包的源地址,并不需要監(jiān)聽客戶機的訪問請求(改由調度器監(jiān)聽并分發(fā))。因此使用虛接口 lo∶0 來承載 VIP 地址,并為本機添加一條路由記錄,將訪問 VIP 的數(shù)據(jù)限制在本地,以避免通信紊亂。
cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.247.180
NETMASK=255.255.255.255 #注意:子網(wǎng)掩碼必須全為 1
ifup lo:0
ifconfig lo:0
route add -host 192.168.247.180 dev lo:0
vim /etc/rc.local
/sbin/route add -host 192.168.247.180 dev lo:0
chmod +x /etc/rc.d/rc.local
(2)調整內核的 ARP 響應參數(shù)以阻止更新 VIP 的 MAC 地址,避免發(fā)生沖突
vim /etc/sysctl.conf
......
net.ipv4.conf.lo.arp_ignore = 1 #系統(tǒng)只響應目的IP為本地IP的ARP請求
net.ipv4.conf.lo.arp_announce = 2 #系統(tǒng)不使用IP包的源地址來設置ARP請求的源地址,而選擇發(fā)送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
sysctl -p
或者
echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
sysctl -p
yum -y install nfs-utils rpcbind httpd
systemctl start rpcbind
systemctl start httpd
--192.168.247.22---
mount.nfs 192.168.247.80:/opt/kgc /var/www/html
echo 'this is kgc web!' > /var/www/html/index.html
--192.168.247.23---
mount.nfs 192.168.247.80:/opt/benet /var/www/html
echo 'this is benet web!' > /var/www/html/index.html
?(1)配置虛擬 IP 地址(VIP:192.168.247.180)
(2)調整內核的 ARP 響應參數(shù)以阻止更新 VIP 的 MAC 地址,避免發(fā)生沖突
開啟服務:
?注:上述配置節(jié)點服務器(192.168.247.22和192.168.247.23)配置方法相同
(3)192.168.247.22配置html
mount.nfs 192.168.247.80:/opt/kgc /var/www/html
echo 'this is kgc web!' > /var/www/html/index.html
(3)192.168.247.23配置html
mount.nfs 192.168.247.80:/opt/benet /var/www/html
echo 'this is benet web!' > /var/www/html/index.html
?驗證:訪問VIP(192.168.247.180)
文章來源:http://www.zghlxwxcb.cn/news/detail-656363.html
文章來源地址http://www.zghlxwxcb.cn/news/detail-656363.html
到了這里,關于LVS-DR模式的文章就介紹完了。如果您還想了解更多內容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章,希望大家以后多多支持TOY模板網(wǎng)!