首先，當(dāng)一個(gè)項(xiàng)目剛起步的時(shí)候，不能預(yù)知后續(xù)的訪(fǎng)問(wèn)量和并發(fā)能達(dá)到多少，在初步開(kāi)發(fā)的架構(gòu)選型中，采用前后端分離的架構(gòu)。關(guān)于前后端分離架構(gòu)，其優(yōu)勢(shì)如下：

前后端分離架構(gòu)

前后端分離是一種軟件系統(tǒng)架構(gòu)模式，它將應(yīng)用程序的前端和后端分離開(kāi)發(fā)和部署。在這種架構(gòu)中，前端和后端是獨(dú)立的系統(tǒng)，通過(guò)API（應(yīng)用程序接口）進(jìn)行通信。

從業(yè)務(wù)角度

前后端分離架構(gòu)可退可進(jìn)，目前是一個(gè)應(yīng)用剛起步的最基本架構(gòu)。將前后端分離開(kāi)來(lái)，則前端只需要負(fù)責(zé)跟人機(jī)進(jìn)行交互，關(guān)注業(yè)務(wù)流程。后端則只需要關(guān)注算法數(shù)據(jù)，運(yùn)算邏輯等。

從質(zhì)量屬性

前端關(guān)注易用性，美觀(guān)；后端注重?cái)U(kuò)展性、可用性和性能。

從性能角度

前端消耗內(nèi)存和帶寬；后端有效消耗CPU。前后端消耗計(jì)算機(jī)硬件分工不同。前端考慮怎么跟人進(jìn)行有效交互，后端則把重心放在怎么跟計(jì)算機(jī)打交道更高效穩(wěn)定。

這樣的前后端分離架構(gòu)，使得在消耗計(jì)算機(jī)硬件如高性能、高可用方面能夠有效剝離出來(lái)，只用一心一意的考慮把后端代碼達(dá)到性能更優(yōu) 下面介紹服務(wù)器端的性能優(yōu)化演進(jìn)之路。

服務(wù)器端關(guān)于不同并發(fā)量的演進(jìn)之路

1. 單體架構(gòu)

當(dāng)一個(gè)項(xiàng)目在初期起始階段，應(yīng)用數(shù)量與用戶(hù)數(shù)量都比較少，此時(shí)的應(yīng)用服務(wù)器（如Tomcat）和數(shù)據(jù)庫(kù)服務(wù)器部署在同一臺(tái)服務(wù)器上，以淘寶為例：瀏覽器往www.taobao.com發(fā)起請(qǐng)求時(shí)，首先經(jīng)果DNS服務(wù)器（域名解析系統(tǒng)）把域名轉(zhuǎn)換成實(shí)際IP地址10.102.4.1，瀏覽器轉(zhuǎn)而訪(fǎng)問(wèn)該IP對(duì)應(yīng)的
Tomcat。

但是隨著用戶(hù)數(shù)量的增加，Tomcat和數(shù)據(jù)庫(kù)之間競(jìng)爭(zhēng)資源，單機(jī)性能不足以支撐業(yè)務(wù)。

2. 第一次演進(jìn)：應(yīng)用服務(wù)器和數(shù)據(jù)庫(kù)服務(wù)器分開(kāi)部署

Tomcat和數(shù)據(jù)庫(kù)分別獨(dú)占服務(wù)器資源，通過(guò)增加服務(wù)器分擔(dān)應(yīng)用的方式，顯著的提高了兩者各自的性能。

但是隨著用戶(hù)數(shù)量的增長(zhǎng)，并發(fā)讀寫(xiě)數(shù)據(jù)庫(kù)成為了性能的瓶頸。

3. 第二次演進(jìn)：引入本地緩存和分部署緩存

在Tomcat同服務(wù)器或者同JVM、中增加本地緩存，并在外部增加分布式緩存，緩存熱點(diǎn)數(shù)據(jù)的HTML頁(yè)面等。通過(guò)緩存能把絕大多數(shù)請(qǐng)求在讀寫(xiě)數(shù)據(jù)庫(kù)前攔截掉，大大降低數(shù)據(jù)庫(kù)的壓力。

緩存雖然抗住了大部分的訪(fǎng)問(wèn)請(qǐng)求，但是隨著用戶(hù)數(shù)量的增長(zhǎng)，并發(fā)的壓力還是主要落在了單機(jī)的Tomcat上，響應(yīng)逐漸變慢。

4. 第三次演進(jìn)：引入反向代理和負(fù)載均衡

在多臺(tái)服務(wù)器上分別部署Tomcat，使用反向代理軟件（Nginx）把請(qǐng)求均勻分發(fā)到每個(gè)Tomcat中。

雖然反向代理使用服務(wù)器可以支持的并發(fā)量大大增加，但是并發(fā)量的增加也意味著更多請(qǐng)求穿透到數(shù)據(jù)庫(kù)，單機(jī)的數(shù)據(jù)庫(kù)最終會(huì)成為性能瓶頸。

5. 第四次演進(jìn)：數(shù)據(jù)庫(kù)讀寫(xiě)分離

把數(shù)據(jù)庫(kù)劃分為讀庫(kù)和寫(xiě)庫(kù)，讀庫(kù)可以有多個(gè)，通過(guò)同步機(jī)制把寫(xiě)庫(kù)的數(shù)據(jù)同步到讀庫(kù)，對(duì)于需要查詢(xún)最新寫(xiě)入數(shù)據(jù)的場(chǎng)景，可以在緩存中多寫(xiě)一份，通過(guò)緩存獲得最新數(shù)據(jù)。

但是隨著業(yè)務(wù)逐漸變多，不同業(yè)務(wù)之間的訪(fǎng)問(wèn)量差距較大，不同業(yè)務(wù)直接競(jìng)爭(zhēng)數(shù)據(jù)庫(kù)資源，相互影響性能。

6. 第五次演進(jìn)：[分庫(kù)] 數(shù)據(jù)庫(kù)按業(yè)務(wù)分庫(kù)

把不同業(yè)務(wù)的數(shù)據(jù)保存到不同的數(shù)據(jù)庫(kù)中，使業(yè)務(wù)之間的資源競(jìng)爭(zhēng)降低。對(duì)于訪(fǎng)問(wèn)量大的業(yè)務(wù)，可以部署更多的服務(wù)器來(lái)支撐。

但是隨著用戶(hù)數(shù)量的增長(zhǎng)，單機(jī)的寫(xiě)庫(kù)會(huì)逐漸達(dá)到性能瓶頸。

7. 第六次演進(jìn)：[分表] 把大表拆分成小表

比如針對(duì)評(píng)論數(shù)據(jù)，可以按照商品的ID進(jìn)行Hash，路由到對(duì)應(yīng)的表中存儲(chǔ)；針對(duì)支付記錄，可以按照支付的小時(shí)創(chuàng)建表，每個(gè)小時(shí)表繼續(xù)拆分為小表，使用用戶(hù)ID或記錄編號(hào)來(lái)路由數(shù)據(jù)。只要實(shí)時(shí)操作的表數(shù)據(jù)量足夠小，請(qǐng)求能夠足夠均勻地分發(fā)到多臺(tái)服務(wù)器上的小表，那數(shù)據(jù)庫(kù)就能通過(guò)水平擴(kuò)展的方式來(lái)提升性能。

雖然數(shù)據(jù)庫(kù)和Tomcat、都能夠水平擴(kuò)展，可以支撐的并發(fā)量大幅提升，但是隨著用戶(hù)量的增長(zhǎng)，最終單機(jī)的Nginx會(huì)成為性能上的瓶頸。

8. 第七次演進(jìn)：使多個(gè)Nginx負(fù)載均衡

由于性能瓶頸在Nginx，因此無(wú)法通過(guò)兩層的Nginx來(lái)實(shí)現(xiàn)多個(gè)Nginx的負(fù)載均衡。LVS和F5是工作在網(wǎng)絡(luò)第四層的負(fù)載均衡解決方案，其中LVS是軟件，運(yùn)行在操作系統(tǒng)內(nèi)核態(tài)，可對(duì)TCP請(qǐng)求或更高層級(jí)的網(wǎng)絡(luò)協(xié)議進(jìn)行轉(zhuǎn)發(fā)，因此支持的協(xié)議更豐富，并且性能也遠(yuǎn)高于Nginx，可假設(shè)單機(jī)的LVS可支持幾十萬(wàn)個(gè)并發(fā)的請(qǐng)求轉(zhuǎn)發(fā)；F5是一種負(fù)載均衡硬件，與LVS提供的能力類(lèi)似，性能比LVS更高，但價(jià)格昂貴。由于LVS是單機(jī)版的軟件，若LVS所在服務(wù)器宕機(jī)則會(huì)導(dǎo)致整個(gè)后端系統(tǒng)都無(wú)法訪(fǎng)問(wèn)，因此需要有備用節(jié)點(diǎn)?？墒褂胟eepalived軟件模擬出虛擬IP，然后把虛擬IP綁定到多臺(tái)LVS服務(wù)器上，瀏覽器訪(fǎng)問(wèn)虛擬IP時(shí)，會(huì)被路由器重定向到真實(shí)的LVS服務(wù)器，當(dāng)主LVS服務(wù)器宕機(jī)時(shí)，keepalived軟件會(huì)自動(dòng)更新路由器中的路由表，把虛擬IP重定向到另外一臺(tái)正常的LVS服務(wù)器，從而達(dá)到LVS服
務(wù)器高可用的效果。

由于LVS也是單機(jī)的，隨著并發(fā)數(shù)量增長(zhǎng)到幾十萬(wàn)時(shí)，LVS服務(wù)器最終會(huì)達(dá)到性能瓶頸，此時(shí)用戶(hù)數(shù)量達(dá)到千萬(wàn)甚至上億級(jí)別，用戶(hù)分布在不同的地區(qū)，與服務(wù)器機(jī)房距離不同，導(dǎo)致了訪(fǎng)問(wèn)的延遲會(huì)明顯不同。

9. 第八次演進(jìn)：通過(guò)DNS輪詢(xún)實(shí)現(xiàn)機(jī)房之間的負(fù)載均衡

在DNS服務(wù)器中可配置一個(gè)域名對(duì)應(yīng)多個(gè)IP地址，每個(gè)IP地址對(duì)應(yīng)到不同的機(jī)房里的虛擬IP。當(dāng)用戶(hù)訪(fǎng)問(wèn)www.taobao.com時(shí)，DNS服務(wù)器會(huì)使用輪詢(xún)策略或其他策略，來(lái)選擇某個(gè)IP供用戶(hù)訪(fǎng)問(wèn)。此方式能實(shí)現(xiàn)機(jī)房間的負(fù)載均衡，至此，系統(tǒng)可做到機(jī)房級(jí)別的水平擴(kuò)展，千萬(wàn)級(jí)到億級(jí)的并發(fā)量都可通過(guò)增加機(jī)房來(lái)解決，系統(tǒng)入口處的請(qǐng)求并發(fā)量不再是問(wèn)題。

但是隨著數(shù)據(jù)的豐富程度和業(yè)務(wù)的發(fā)展，檢索、分析等需求越來(lái)越豐富，單單依靠數(shù)據(jù)庫(kù)無(wú)法解決如此豐富的需求。

10. 第九次演進(jìn)：引入NoSQL數(shù)據(jù)庫(kù)和搜索引擎等技術(shù)

當(dāng)數(shù)據(jù)庫(kù)中的數(shù)據(jù)多到一定規(guī)模的時(shí)候，數(shù)據(jù)庫(kù)就不適用于復(fù)雜查詢(xún)了，往往只能滿(mǎn)足普通查詢(xún)的場(chǎng)景。對(duì)于統(tǒng)計(jì)報(bào)表的場(chǎng)景，在數(shù)據(jù)量大時(shí)不一定能跑出結(jié)果，而且在跑復(fù)雜查詢(xún)時(shí)會(huì)導(dǎo)致其他查詢(xún)變慢。

引入更多組件解決了豐富的需求，業(yè)務(wù)維度能夠極大擴(kuò)充，但隨之而來(lái)的是一個(gè)應(yīng)用包含了太多的業(yè)務(wù)代碼，業(yè)務(wù)的升級(jí)迭代變得困難。

11. 第十次演進(jìn)：大應(yīng)用拆分為小應(yīng)用

按照業(yè)務(wù)板塊來(lái)劃分應(yīng)用代碼，使單個(gè)應(yīng)用的職責(zé)更清晰，相互之間可以做到獨(dú)立升級(jí)迭代。

但是不同的應(yīng)用之間可能存在共用的模塊，由應(yīng)用單獨(dú)管理會(huì)導(dǎo)致相同的代碼存在多份，導(dǎo)致公共功能在升級(jí)時(shí)全部應(yīng)用代碼要跟著升級(jí)。

12. 第十一次演進(jìn)：復(fù)用的功能抽離成微服務(wù)

如用戶(hù)管理、訂單、支付、鑒權(quán)等功能在多個(gè)應(yīng)用中都存在，那么可以把這些功能的代碼單獨(dú)抽取出來(lái)形成一個(gè)單獨(dú)的服務(wù)來(lái)管理，這樣的服務(wù)就是所謂的微服務(wù)，應(yīng)用和服務(wù)之間通過(guò)HTTP、TCP或RPC請(qǐng)求等多種方式來(lái)訪(fǎng)問(wèn)公共服務(wù)，每個(gè)單獨(dú)的服務(wù)都可以由單獨(dú)的團(tuán)隊(duì)來(lái)管理。

但是由于不同服務(wù)的接口訪(fǎng)問(wèn)方式不同，應(yīng)用代碼需要適配多種訪(fǎng)問(wèn)方式才能使用服務(wù)。此外，應(yīng)用訪(fǎng)問(wèn)服務(wù)，服務(wù)之間也可能互相訪(fǎng)問(wèn)，調(diào)用鏈將會(huì)變得非常復(fù)雜，邏輯變得混亂。

13. 第十二次演進(jìn)：引入企業(yè)服務(wù)總線(xiàn)ESB屏蔽服務(wù)接口的訪(fǎng)問(wèn)差異

通過(guò)ESB統(tǒng)一進(jìn)行訪(fǎng)問(wèn)協(xié)議轉(zhuǎn)換，應(yīng)用統(tǒng)一通過(guò)ESB來(lái)訪(fǎng)問(wèn)后端服務(wù)，服務(wù)與服務(wù)之間也通過(guò)ESB來(lái)互相調(diào)用，以此降低系統(tǒng)的耦合程度。這種單個(gè)應(yīng)用拆分為多個(gè)應(yīng)用，公共服務(wù)單獨(dú)抽出來(lái)管理，并使用企業(yè)總線(xiàn)來(lái)解除服務(wù)之間耦合問(wèn)題的架構(gòu)，就是所謂的SOA（面向服務(wù)）架構(gòu)。

但是隨著業(yè)務(wù)不斷發(fā)展，應(yīng)用和服務(wù)都會(huì)不斷變多，應(yīng)用和服務(wù)的部署變得復(fù)雜，同一臺(tái)服務(wù)器上部署多個(gè)服務(wù)還要解決運(yùn)行環(huán)境沖突的問(wèn)題。此外，對(duì)于如大促這類(lèi)需要?jiǎng)討B(tài)擴(kuò)縮容的場(chǎng)景，需要水平擴(kuò)展服務(wù)的場(chǎng)景，就需要在新增的服務(wù)器上準(zhǔn)備運(yùn)行環(huán)境，部署服務(wù)等，運(yùn)維將變得十分困難。

14. 第十三次演進(jìn)：引入容器化技術(shù)實(shí)現(xiàn)運(yùn)行環(huán)境隔離與動(dòng)態(tài)服務(wù)管理

目前最流行的容器化技術(shù)是Docker，最流行的容器管理服務(wù)是Kubernetes(K8S)，應(yīng)用/服務(wù)可以打包為Docker鏡像，通過(guò)K8S來(lái)動(dòng)態(tài)分發(fā)和部署鏡像。Docker鏡像可理解為一個(gè)能運(yùn)行你的應(yīng)用/服務(wù)的最小的操作系統(tǒng)，里面放著應(yīng)用/服務(wù)的運(yùn)行代碼，運(yùn)行環(huán)境根據(jù)實(shí)際的需要設(shè)置好。把整個(gè)“操作系統(tǒng)”打包為一個(gè)鏡像后，就可以分發(fā)到需要部署相關(guān)服務(wù)的機(jī)器上，直接啟動(dòng)Docker鏡像就可以把服務(wù)起起來(lái)，使服務(wù)的部署和運(yùn)維變得簡(jiǎn)單。

15. 第十四次演進(jìn)：以云平臺(tái)承載系統(tǒng)

TODO文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-696008.html

到了這里，關(guān)于軟件架構(gòu)之前后端分離架構(gòu)&服務(wù)器端高并發(fā)演進(jìn)之路的文章就介紹完了。如果您還想了解更多內(nèi)容，請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！