摘要：云原生數(shù)據(jù)庫在使用存算分離技術(shù)后，可以在完全兼容MYSQL協(xié)議和語法的情況下，極大提升單實(shí)例所能承載的數(shù)據(jù)規(guī)模與吞吐能力上限。但除了對客戶端兼容外，對整個(gè)數(shù)據(jù)生態(tài)（地域容災(zāi)，數(shù)據(jù)分析，備份恢復(fù)）的適配同樣需要大量的設(shè)計(jì)優(yōu)化工作。本次分享GaiaDB在跨地域/異構(gòu)數(shù)據(jù)同步場景下，吞吐/實(shí)時(shí)性/一致性方面能力打造與實(shí)踐經(jīng)驗(yàn)。

在2023云數(shù)據(jù)庫技術(shù)沙龍 “MySQL x ClickHouse” 專場上，百度數(shù)據(jù)庫資深技術(shù)專家邱學(xué)達(dá)，為大家分享一下《百度云原生數(shù)據(jù)庫GaiaDB的HTAP與多地多活技術(shù)實(shí)踐》的一些技術(shù)內(nèi)容。

?

邱學(xué)達(dá)，百度數(shù)據(jù)庫資深技術(shù)專家，主要負(fù)責(zé)分布式架構(gòu)設(shè)計(jì)與數(shù)據(jù)庫內(nèi)核特性設(shè)計(jì)和開發(fā)。多年數(shù)據(jù)庫與分布式存儲(chǔ)開發(fā)經(jīng)驗(yàn)，專注于分布式高可用+高可靠架構(gòu)設(shè)計(jì)與云原生化改造。在分布式性能優(yōu)化、端到端可用性提升方面具有豐富經(jīng)驗(yàn)

本文內(nèi)容根據(jù)演講錄音以及PPT整理而成。

大家好，今天我想和大家分享的內(nèi)容是百度云原生數(shù)據(jù)庫GaiaDB在數(shù)據(jù)分析場景與多地多活方面的一些實(shí)踐經(jīng)驗(yàn)。

?

GaiaDB是百度智能云研發(fā)的一款云原生數(shù)據(jù)庫，目前已經(jīng)在云上獲得了廣泛的應(yīng)用，承載了多個(gè)高吞吐/超大容量業(yè)務(wù)，特別是幫助很多業(yè)務(wù)在0改造成本下，實(shí)現(xiàn)了服務(wù)多地域多活，在每個(gè)地域都可以實(shí)現(xiàn)接近本地的低延遲讀取能力。在大數(shù)據(jù)量承載方面，多個(gè)線上百TB以上業(yè)務(wù)實(shí)踐證明，GaiaDB在這種規(guī)模下依然具備良好的吞吐與彈性能力。

?

下面我來介紹一下GaiaDB的整體架構(gòu)。

首先是接入層 ，接入層主要用來提供自動(dòng)讀寫分離/流量控制/SQL防火墻/鑒權(quán)與負(fù)載均衡等功能，業(yè)務(wù)無需維護(hù)復(fù)雜的讀寫分離/連接池邏輯，直接使用proxy即可享受豐富的接入管理功能。對于有讀寫一致性要求的業(yè)務(wù)，還可以選擇使用主從一致性或全局強(qiáng)一致等多種一致性級別，解決傳統(tǒng)架構(gòu)寫后讀不可見導(dǎo)致的多種復(fù)雜兼容問題。

再往下是計(jì)算層，計(jì)算層依然是多個(gè)計(jì)算節(jié)點(diǎn)互相負(fù)載均衡的架構(gòu)。對于讀場景已經(jīng)實(shí)現(xiàn)了無狀態(tài)的橫向與縱向彈性伸縮，可以實(shí)現(xiàn)秒級擴(kuò)縮容，方便應(yīng)對線上各種活動(dòng)流量與突發(fā)尖峰。對于寫場景，默認(rèn)仍提供基于縱向擴(kuò)展的彈性伸縮能力，可以滿足線上大部分業(yè)務(wù)的寫吞吐需求。

對于寫能力的橫向擴(kuò)展，我們也做了大量的技術(shù)儲(chǔ)備，寫的擴(kuò)展能力主要取決于請求的沖突情況；在完全無沖突的負(fù)載下，樂觀事務(wù)可以提供近似線性的寫擴(kuò)展能力，但是大部分的交易類負(fù)載都是存在沖突的，在這種情況下樂觀事務(wù)模型的使用體驗(yàn)就會(huì)變得不易接受；對于目前主流的悲觀事務(wù)模型來講，解決沖突主要使用鎖機(jī)制實(shí)現(xiàn)，橫向?qū)憯U(kuò)展引入的跨節(jié)點(diǎn)鎖協(xié)商會(huì)帶來較高的事務(wù)延遲與吞吐瓶頸，目前在工程上還是非常具有挑戰(zhàn)性的。當(dāng)前對于寫的橫向擴(kuò)展我們更多的是結(jié)合業(yè)務(wù)特點(diǎn)進(jìn)行專屬方案定制，實(shí)現(xiàn)業(yè)務(wù)上的整體最優(yōu)解。

接下來是存儲(chǔ)層的架構(gòu)設(shè)計(jì)，對于分布式存儲(chǔ)系統(tǒng)來講，核心就是數(shù)據(jù)分區(qū)算法與數(shù)據(jù)引擎設(shè)計(jì)。數(shù)據(jù)分區(qū)算法的核心在于如何在盡量降低映射獲取時(shí)延的同時(shí)，將內(nèi)存消耗控制在可接受的范圍內(nèi)，同時(shí)又盡量避免數(shù)據(jù)的大規(guī)模搬運(yùn)。對于實(shí)時(shí)性要求越高的系統(tǒng)，分區(qū)算法的設(shè)計(jì)應(yīng)該層級越少、規(guī)則越簡單，避免引入過多的切換消耗。而數(shù)據(jù)引擎的設(shè)計(jì)優(yōu)化方向則集中在Base數(shù)據(jù)的讀取優(yōu)化以及增量數(shù)據(jù)（WAL）的可靠性/一致性保證上。

GaiaDB的存儲(chǔ)引擎在設(shè)計(jì)上將Base數(shù)據(jù)與增量更新分離到了兩個(gè)子系統(tǒng)中，即存儲(chǔ)子系統(tǒng)和日志子系統(tǒng)，避免了日志流與數(shù)據(jù)流的IO爭搶導(dǎo)致各類性能問題，存儲(chǔ)子系統(tǒng)可以向極致讀性能方向優(yōu)化，將讀IO優(yōu)先級設(shè)為最高，寫則可以使用異步落盤+內(nèi)存動(dòng)態(tài)回放技術(shù)降低對磁盤占用；日志子系統(tǒng)向極致寫性能方向優(yōu)化，使用窗口技術(shù)+增量引擎，將寫能力優(yōu)化至極致水平，讀使用熱數(shù)據(jù)緩存技術(shù)提升性能。通過將讀寫數(shù)據(jù)流解耦分別優(yōu)化，實(shí)現(xiàn)了資源的最大化利用。

在整體架構(gòu)設(shè)計(jì)上，GaiaDB對于系統(tǒng)數(shù)據(jù)一致性與可靠性方面做了重點(diǎn)加強(qiáng)。Mysql的主從切換一直是一個(gè)比較復(fù)雜的課題，在硬件掉電/網(wǎng)絡(luò)不可達(dá)等場景下，保證數(shù)據(jù)的嚴(yán)格一致較為困難。GaiaDB將原生數(shù)據(jù)可靠能力（RPO=0)固化到系統(tǒng)的基礎(chǔ)設(shè)計(jì)之中，通過將一致性協(xié)議中的任期機(jī)制融入到整個(gè)數(shù)據(jù)鏈路中，新的寫入任期開啟后，任何過時(shí)寫入都會(huì)被排除在數(shù)據(jù)流之外，確保即使發(fā)生了假死等情況，數(shù)據(jù)的完整性也完全不會(huì)受到影響。

?

接下來想和大家分享一下 GaiaDB 在配合業(yè)務(wù)的分析需求、讓業(yè)務(wù)可以更高效流暢實(shí)現(xiàn)數(shù)據(jù)分析的一些實(shí)踐經(jīng)驗(yàn)。

很多業(yè)務(wù)在使用GaiaDB滿足交易類和輕度分析類需求的同時(shí)，還會(huì)使用Doris解決分析型場景下的需求，Doris是由百度自研并捐贈(zèng)至Apache軟件基金會(huì)的開源MPP數(shù)據(jù)庫，在行業(yè)內(nèi)獲得了廣泛的應(yīng)用，對于不同種類的數(shù)據(jù)分析讀取需求，我們積累了一些成本與效率最優(yōu)的解決方案，下面我來結(jié)合具體的案例進(jìn)行分析。

如圖是一個(gè)典型的泛互聯(lián)網(wǎng)產(chǎn)品架構(gòu)：最前端是網(wǎng)絡(luò)接入層，用于承接APP/Web發(fā)來的業(yè)務(wù)請求、聚合和分發(fā)不同子系統(tǒng)之間流量；后面有多個(gè)業(yè)務(wù)子系統(tǒng)，例如商品、訂單、活動(dòng)、推送等。這些用戶業(yè)務(wù)系統(tǒng)更關(guān)注的是數(shù)據(jù)的高并發(fā)+低延遲訪問，對數(shù)據(jù)的一致性和事務(wù)隔離性也有較高的要求，同時(shí)由于線上活動(dòng)或者節(jié)假日流量高峰，對彈性和擴(kuò)展性也有迫切需求，GaiaDB可以很好滿足這類業(yè)務(wù)的需求。

與用戶業(yè)務(wù)系統(tǒng)使用同一份數(shù)據(jù)的部門往往還有另外兩類，一類是后臺(tái)服務(wù)，也就是對內(nèi)的客服系統(tǒng)/運(yùn)營維護(hù)系統(tǒng)/供應(yīng)鏈業(yè)務(wù)系統(tǒng)等。這些系統(tǒng)的特點(diǎn)是：由于只有公司內(nèi)部人員使用，QPS和并發(fā)不高，但負(fù)載復(fù)雜而且迭代要求高。比如運(yùn)營部門經(jīng)常需要進(jìn)行新活動(dòng)設(shè)計(jì)與配置，客服/MIS系統(tǒng)則需要配合線上活動(dòng)情況增加各種查詢功能。因此，對于后臺(tái)類業(yè)務(wù)來講，能用SQL和事務(wù)快速完成復(fù)雜可靠的功能開發(fā)是剛性需求，所以SQL的功能豐富度與兼容性顯得尤為重要，同時(shí)SQL的并行能力與計(jì)算下推對于這類場景的體驗(yàn)優(yōu)化具有重要作用。

第二類則是專業(yè)的數(shù)據(jù)分析團(tuán)隊(duì)，數(shù)據(jù)分析團(tuán)隊(duì)往往承擔(dān)了多維度、高復(fù)雜度的數(shù)據(jù)分析需求，所以通常使用專業(yè)的數(shù)據(jù)分析一攬子方案，這種場景下數(shù)據(jù)請求不會(huì)直接發(fā)往在線數(shù)據(jù)庫，而是需要盡量實(shí)時(shí)的從在線庫導(dǎo)入至分析庫，因此快速、簡單、可靠的數(shù)據(jù)導(dǎo)入導(dǎo)出能力成為首要關(guān)注點(diǎn)。

?

所以針對異構(gòu)分析的需求，100%生態(tài)兼容的導(dǎo)入導(dǎo)出功能是首要+必備選項(xiàng)，特別是分析型解決方案的數(shù)據(jù)同步組件都是通用而非業(yè)務(wù)自研組件，上云用云過程中修改這部分基礎(chǔ)設(shè)施難度是非常高的。因此GaiaDB在這方面做了很多增強(qiáng)工作，比如基于日志流的高可靠強(qiáng)一致能力原生實(shí)現(xiàn)了RPO=0級別的Binlog流支持能力，同時(shí)對于通用的DTS產(chǎn)品和社區(qū)導(dǎo)入導(dǎo)出工具，也是保證了完全兼容和歷史經(jīng)驗(yàn)復(fù)用，不增加額外的學(xué)習(xí)成本。

而對于輕度的離線分析需求，這部分的特點(diǎn)是需求多變、對成本敏感、與線上服務(wù)有隔離訴求。GaiaDB使用多入口技術(shù)支持業(yè)務(wù)在離線請求完全隔離，對于離線類請求使用單獨(dú)計(jì)算資源，不會(huì)對線上造成影響，同時(shí)充分利用存儲(chǔ)層分布式MVCC能力，不增加額外的存儲(chǔ)成本和數(shù)據(jù)一致性維護(hù)開銷，隨著離線負(fù)載的變化，對應(yīng)計(jì)算資源還可以動(dòng)態(tài)伸縮以進(jìn)一步增強(qiáng)成本節(jié)省能力。對于支持?jǐn)?shù)據(jù)分區(qū)的業(yè)務(wù)來講，GaiaDB同樣兼容了該功能，數(shù)據(jù)分區(qū)可以有效降低資源爭搶密度，提升并行讀取能力，對于并行分析具備很好的提速作用。

?

還有一類對數(shù)據(jù)一致性要求更高的業(yè)務(wù)，如金融類產(chǎn)品，期望拿到精確到秒級的全局一致數(shù)據(jù)用于分析，不但從空間維度要求數(shù)據(jù)一致，從時(shí)間維度上也期望在分析的過程中數(shù)據(jù)可以保證前后一致，這種場景下GaiaDB只讀鏡像庫的能力就得以體現(xiàn)，在資源空閑的低峰時(shí)段創(chuàng)建鏡像庫同時(shí)啟動(dòng)分析任務(wù)，有效利用低峰時(shí)段空閑算力。由于只讀鏡像無需處理寫負(fù)載，所以寫相關(guān)的日志子系統(tǒng)可以裁剪以節(jié)省成本，同時(shí)也解耦了對高性能介質(zhì)的依賴。只需要計(jì)算節(jié)點(diǎn)+冷存儲(chǔ)介質(zhì)，結(jié)合查詢并行化技術(shù)充分利用分布式IO吞吐能力，即可實(shí)現(xiàn)超低成本離線分析解決方案。同時(shí)全量鏡像也確保了數(shù)據(jù)嚴(yán)格一致，避免了增量同步可能導(dǎo)致的DDL處理、數(shù)據(jù)校驗(yàn)等復(fù)雜問題，有效保證了數(shù)據(jù)的可用性與可靠性。

?

近幾年隨著業(yè)務(wù)精細(xì)化程度的提升和基礎(chǔ)設(shè)施規(guī)模故障風(fēng)險(xiǎn)的存在，越來越多的業(yè)務(wù)將多活能力納入了架構(gòu)設(shè)計(jì)考慮的范疇，業(yè)務(wù)既希望可以獲得高可用性，還想讓成本控制在比較低的程度，同時(shí)還不希望由業(yè)務(wù)實(shí)現(xiàn)多份數(shù)據(jù)的同步與維護(hù)，這樣就對數(shù)據(jù)庫這類基礎(chǔ)設(shè)施的多地多活能力提出了很高的要求，GaiaDB的高對稱架構(gòu)天然適合多地多活方式部署，所有存儲(chǔ)副本邏輯上完全對稱，每個(gè)副本都具備動(dòng)態(tài)回放任意版本數(shù)據(jù)能力，這樣就為數(shù)據(jù)就近訪問打下了堅(jiān)實(shí)的基礎(chǔ)：業(yè)務(wù)請求可以自動(dòng)路由到同機(jī)房計(jì)算節(jié)點(diǎn)，計(jì)算節(jié)點(diǎn)請求同機(jī)房存儲(chǔ)副本即可讀取實(shí)時(shí)數(shù)據(jù)，避免了主從架構(gòu)副本導(dǎo)致的多次跨機(jī)房訪問問題。

同時(shí)全對稱架構(gòu)還可以避免故障場景下批量選主帶來的服務(wù)中斷與請求風(fēng)暴問題，任意副本故障不會(huì)影響其他副本工作，可用性更高、延遲更平穩(wěn)。對于寫鏈路則使用并行寫入技術(shù)加速，最快的多數(shù)派返回即可實(shí)現(xiàn)寫入成功。綜上，GaiaDB的同城多活架構(gòu)在讀寫鏈路上都可以避免單個(gè)慢節(jié)點(diǎn)/機(jī)房導(dǎo)致的性能抖動(dòng)問題，使整體性能損耗控制在很小的范圍內(nèi)。

?

此外GaiaDB也支持跨地域熱活實(shí)例組，將災(zāi)備能力提升到了地域級，業(yè)務(wù)在地域間部署無需適配改造，即可實(shí)現(xiàn)就近讀取低延遲能力和寫請求自動(dòng)轉(zhuǎn)發(fā)能力，無需維護(hù)復(fù)雜讀寫入口，提供了與單地域?qū)嵗恢碌氖褂皿w驗(yàn)，幫助大量業(yè)務(wù)實(shí)現(xiàn)了跨地域?yàn)?zāi)備能力。

?

以上就是我今天想和大家分享的內(nèi)容，GaiaDB在架構(gòu)設(shè)計(jì)上核心關(guān)注數(shù)據(jù)的高可靠與高可用性，重點(diǎn)打造了數(shù)據(jù)的極致可靠保障能力、跨地域多活能力與災(zāi)備恢復(fù)能力，同時(shí)在使用體驗(yàn)上注重簡單可靠，實(shí)現(xiàn)了對生態(tài)和使用經(jīng)驗(yàn)的完全兼容，將用戶上云門檻降至最低，讓所有上云用云業(yè)務(wù)都可以享受到基礎(chǔ)設(shè)施架構(gòu)提升帶來的效能提升，謝謝大家。

本次大會(huì)圍繞“技術(shù)進(jìn)化，讓數(shù)據(jù)更智能”為主題，匯聚字節(jié)跳動(dòng)、阿里云、玖章算術(shù)、華為云、騰訊云、百度的6位數(shù)據(jù)庫領(lǐng)域?qū)＜遥钊?MySQL x ClickHouse 的實(shí)踐經(jīng)驗(yàn)和技術(shù)趨勢，結(jié)合企業(yè)級的真實(shí)場景落地案例，與廣大技術(shù)愛好者一起交流分享。文章來源地址http://www.zghlxwxcb.cn/news/detail-458365.html

到了這里，關(guān)于百度云原生數(shù)據(jù)庫GaiaDB的HTAP與多地多活技術(shù)實(shí)踐的文章就介紹完了。如果您還想了解更多內(nèi)容，請?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章，希望大家以后多多支持TOY模板網(wǎng)！