国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

Ceph:關(guān)于Ceph 集群中數(shù)據(jù)分布和容災(zāi)理論的一些筆記

這篇具有很好參考價值的文章主要介紹了Ceph:關(guān)于Ceph 集群中數(shù)據(jù)分布和容災(zāi)理論的一些筆記。希望對大家有所幫助。如果存在錯誤或未考慮完全的地方,請大家不吝賜教,您也可以點擊"舉報違法"按鈕提交疑問。

寫在前面


  • 準備考試,整理 Ceph 相關(guān)筆記
  • 博文內(nèi)容涉及,Ceph 集群中數(shù)據(jù)如何分布以及不同的容災(zāi)池介紹
  • 理解不足小伙伴幫忙指正

對每個人而言,真正的職責(zé)只有一個:找到自我。然后在心中堅守其一生,全心全意,永不停息。所有其它的路都是不完整的,是人的逃避方式,是對大眾理想的懦弱回歸,是隨波逐流,是對內(nèi)心的恐懼 ——赫爾曼·黑塞《德米安》


Ceph 中的數(shù)據(jù)分布和整理

使用池對存儲進行分區(qū)

Ceph 中的 pool 可以看作是傳統(tǒng)文件系統(tǒng)中的目錄,但它們不僅僅是簡單的目錄??梢赃@樣講,如果要在 ceph 中存儲東西,那么最先需要確認的就是要存儲在那個池里,池最主要區(qū)別是,保護容災(zāi)類型不同,有復(fù)制池和糾刪碼池兩種

在 Ceph 中 OSD 保護并持續(xù)檢查集群中存儲的數(shù)據(jù)的完整性, Pools(池) 是 Ceph 存儲集群的邏輯分區(qū),用于將對象存儲在共同的名稱標簽下。

Ceph 給每個 分配 特定數(shù)量哈希存儲桶,名為放置組 (PG),將對象分組到一起進行存儲。每個池具有下列可調(diào)整屬性:

  • 不變 ID
  • 名稱
  • 在 OSD 之間分布對象的 PG 數(shù)量
  • CRUSH 規(guī)則,用于確定這個池的 PG 映射
  • 保護類型冗余(復(fù)制糾刪代碼)
  • 與保護類型相關(guān)的參數(shù)
  • 影響集群行為的各種標志

分配給每個池的放置組(PG)數(shù)量可以獨立配置,以匹配數(shù)據(jù)的類型以及池所需要的訪問權(quán)限

CRUSH 算法用于確定托管池數(shù)據(jù)的OSD,每個池分配一條 CRUSH 規(guī)則作為其放置策略,CRUSH 規(guī)則決定哪些 OSD 存儲分配了該規(guī)則的所有池的數(shù)據(jù)

放置組 PG

放置組 (PG) 將一系列對象聚合到一個哈希存儲桶或組中。Ceph 將每個 PG 映射到一組 OSD

一個對象 屬于一個 PG,屬于 同一PG 的所有對象返回相同的散列結(jié)果

根據(jù)對象名稱的散列將對象映射至其 PG。由 CRUSH 算法將 PG 放置到OSD 這種放置策略也被稱為 CRUSH 放置規(guī)則,放置規(guī)則標識在 CRUSH 拓撲中選定的故障域,以接收各個副本或糾刪碼區(qū)塊

當(dāng)客戶端將對象寫入到池時,它使用池的 CRUSH 放置規(guī)則來確定對象的放置組。

客戶端然后使用其集群映射的副本放置組以及 CRUSH 放置規(guī)則來計算對象的副本(或其糾刪碼區(qū)塊)應(yīng)寫入到哪些 OSD 中,從而確保數(shù)據(jù)分布到不同的故障域

當(dāng)的 OSD 可供 Ceph 集群使用時,放置組提供的間接層非常重要。在集群中添加或移除 OSD 時,放置組會自動在正常運作的 OSD 之間重新平衡

將對象映射到其關(guān)聯(lián)的 OSD

  1. Ceph 客戶端從監(jiān)控器獲取集群映射的最新副本。集群映射向客戶端提供有關(guān)集群中所有MON、OSD 和 MDS 的信息。它不會向客戶端提供對象的位置,客戶端必須使用CRUSH 來計算它需要訪問的對象位置

  2. 當(dāng)一個對象需要進行存儲時,客戶端需要根據(jù)對象 ID存儲池名稱來計算出該對象所屬的 PG ID。為了計算 PG ID,客戶端需要將對象 ID模運算,得到 PG 數(shù)量,然后再將 PG ID 添加到池 ID 的前綴上,以得到完整的 PG ID。

例如,假設(shè)某個存儲池的名稱為 my-pool,其對應(yīng)的數(shù)字 ID 是 1,同時該存儲池被分成了 64 個 PG 組。當(dāng)客戶端需要為一個對象計算存儲位置時,它首先根據(jù)對象的 ID 計算出對象所在的 PG ID(例如是 26),然后將池 ID 的前綴添加進去,得到最終的 PG ID:1.26。這個 PG ID 就代表了對象在 Ceph 存儲集群中的存儲位置,客戶端可以通過該 ID 來訪問和管理該對象。

  1. 然后,使用CRUSH 算法確定哪些 OSD 負責(zé)某一個 PG(操作集合)。操作集合中目前就緒的 OSD位于就緒集合中,就緒集合中的第一個 OSD 是對象放置組的當(dāng)前主要 OSD,就緒集合中的所有其他OSD 為次要 OSD

  2. Ceph 客戶端然后可以直接與主要 OSD 交互,以訪問對象

數(shù)據(jù)保護

和 Ceph 客?端一樣,OSD 守護進程使用 CRUSH 算法,但 OSD 守護進程使用它來計算對象副本的存儲位置以及用于重新平衡存儲

在典型的寫入場景中,Ceph 客戶端使用CRUSH 算法計算原始對象的存儲位置,將對象映射到池和放置組,然后使用 CRUSH 映射來確定映射的放置組的主要 OSD。在創(chuàng)建池時,將它們設(shè)置為復(fù)制或糾刪代碼池

Ceph:關(guān)于Ceph 集群中數(shù)據(jù)分布和容災(zāi)理論的一些筆記,Ceph,ceph,筆記

為了提高彈性,為池配置在出現(xiàn)故障時不會丟失數(shù)據(jù)的 OSD 數(shù)量。對于復(fù)制池(默認的池類型),該數(shù)量決定了在不同設(shè)備之間創(chuàng)建和分布對象的副本數(shù)。復(fù)制池以較低的可用存儲與原始存儲比為代價,在所有用例中提供更佳的性能

糾刪代碼提供了更經(jīng)濟高效的數(shù)據(jù)存儲方式,但性能更低。對于糾刪代碼池,配置值確定要創(chuàng)建的編碼塊奇偶校驗塊的數(shù)量

糾刪代碼的主要優(yōu)勢是能夠提供極高的彈性和持久性。還可以配置要使用的編碼區(qū)塊(奇偶校驗)數(shù)量,RADOS 網(wǎng)關(guān)和 RBD 訪問方法都支持糾刪代碼

下圖演示了如何在Ceph集群中存儲數(shù)據(jù)對象。Ceph 將池中的一個或多個對象映射到一個 PG,由彩色框表示。此圖上的每一個 PG 都被復(fù)制并存儲在 Ceph 集群的獨立 OSD 上

Ceph:關(guān)于Ceph 集群中數(shù)據(jù)分布和容災(zāi)理論的一些筆記,Ceph,ceph,筆記

博文部分內(nèi)容參考

? 文中涉及參考鏈接內(nèi)容版權(quán)歸原作者所有,如有侵權(quán)請告知,這是一個開源項目,如果你認可它,不要吝嗇星星哦 ??


https://docs.ceph.com/en/pacific/architecture/

https://github.com/ceph/ceph

https://docs.ceph.com

CL260 授課老師課堂筆記


? 2018-2023 liruilonger@gmail.com, All rights reserved. 保持署名-非商用-相同方式共享(CC BY-NC-SA 4.0)文章來源地址http://www.zghlxwxcb.cn/news/detail-527498.html

到了這里,關(guān)于Ceph:關(guān)于Ceph 集群中數(shù)據(jù)分布和容災(zāi)理論的一些筆記的文章就介紹完了。如果您還想了解更多內(nèi)容,請在右上角搜索TOY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實不符,請點擊違法舉報進行投訴反饋,一經(jīng)查實,立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費用

相關(guān)文章

  • 第?講:Ceph集群OSD擴縮容中Reblanceing數(shù)據(jù)的重分布

    第?講:Ceph集群OSD擴縮容中Reblanceing數(shù)據(jù)的重分布

    當(dāng)集群中OSD進行擴縮容操作后,會觸發(fā)一個Reblanceing數(shù)據(jù)重分布的機制,簡單的理解就是將擴縮容前后OSD中的PG在每一個OSD中進行均勻分布,如下圖所示: 在擴容前集群有兩個OSD節(jié)點,這兩個OSD中分布著十個PG,擴容后,集群中有三個OSD節(jié)點,此時就會觸發(fā)Reblanceing數(shù)據(jù)重分布

    2024年04月15日
    瀏覽(28)
  • Ceph:關(guān)于 Ceph 用戶認證授權(quán)管理的一些筆記

    Ceph:關(guān)于 Ceph 用戶認證授權(quán)管理的一些筆記

    準備考試,整理 Ceph 相關(guān)筆記 博文內(nèi)容涉及, Ceph 用戶管理,認證管理,權(quán)限管理 以及相關(guān) Demo 理解不足小伙伴幫忙指正 對每個人而言,真正的職責(zé)只有一個:找到自我。然后在心中堅守其一生,全心全意,永不停息。所有其它的路都是不完整的,是人的逃避方式,是對大眾

    2024年02月11日
    瀏覽(18)
  • 大數(shù)據(jù)開發(fā)·關(guān)于虛擬機Hadoop完全分布式集群搭建教程

    大數(shù)據(jù)開發(fā)·關(guān)于虛擬機Hadoop完全分布式集群搭建教程

    官網(wǎng)鏈接 進入后網(wǎng)站如圖,各位按需下載 官網(wǎng)鏈接 進入頁面點擊下載 再根據(jù)我們需要下載的軟件進入下載頁面 點擊右側(cè)紅框內(nèi)的免費授權(quán)頁面獲取免費許可 進入后如圖,兩者我們都需要所以都勾選,填寫的郵箱用于接收下載鏈接,下載后進行安裝即可 這里先和大家強調(diào)一

    2024年02月07日
    瀏覽(32)
  • 關(guān)于ES集群信息的一些查看

    關(guān)于ES集群信息的一些查看

    查看版本 kibana : GET / GET /_cat/nodes?v 解釋: ip:集群中節(jié)點的 ip 地址; heap.percent:堆內(nèi)存的占用百分比; ram.percent:總內(nèi)存的占用百分比,其實這個不是很準確,因為 buff/cache 和 available 也被當(dāng)作使用內(nèi)存; cpu:cpu 占用百分比; load_1m:1 分鐘內(nèi) cpu 負載; load_5m:5 分鐘內(nèi)

    2023年04月11日
    瀏覽(26)
  • ceph數(shù)據(jù)分布

    ceph數(shù)據(jù)分布

    ceph的存儲是無主結(jié)構(gòu),數(shù)據(jù)分布依賴client來計算,有兩個條主要路徑。 1、數(shù)據(jù)到PG 2、PG 到OSD 有兩個假設(shè): 第一,pg的數(shù)量穩(wěn)定,可以認為保持不變; 第二, OSD的數(shù)量可以增減,OSD的存儲空間權(quán)重不等; 由于 PG的數(shù)量保持不變,由數(shù)據(jù)來找PGID的環(huán)節(jié)可以簡單處理,對數(shù)據(jù)

    2024年02月12日
    瀏覽(15)
  • 關(guān)于集群分布式torchrun命令踩坑記錄(自用)

    關(guān)于集群分布式torchrun命令踩坑記錄(自用)

    在訓(xùn)練或者微調(diào)模型的過程中,單節(jié)點的顯存溢出,或者單節(jié)點的顯卡較少,算力有限。需要跨節(jié)點用多個節(jié)點多塊顯卡來運行這項任務(wù)。這里就需要使用分布式命令,將這項任務(wù)分布到多個節(jié)點上來處理。 在此我僅記錄我在運行分布式過程中遇到的一些問題。 首先,對于

    2024年02月12日
    瀏覽(21)
  • 【經(jīng)驗分享】openGauss容災(zāi)集群搭建

    【經(jīng)驗分享】openGauss容災(zāi)集群搭建

    openGauss 推出了容災(zāi)架構(gòu),相比之前的一個集群主從架構(gòu),而容災(zāi)架構(gòu)是兩個集群間的數(shù)據(jù)同步。為了更深入了解其原理,本文試圖通過閱讀 gs_sdr 命令相關(guān)的代碼來學(xué)習(xí)下相關(guān)的各種操作。 1.容災(zāi)搭建過程可以參考:https://www.modb.pro/db/628767 2.vscode調(diào)試配置可以參考:https://w

    2024年02月08日
    瀏覽(24)
  • elasticsearch系列九:異地容災(zāi)-CCR跨集群復(fù)制

    elasticsearch系列九:異地容災(zāi)-CCR跨集群復(fù)制

    概述 ???起初只在部分業(yè)務(wù)中采用es存儲數(shù)據(jù),在主中心搭建了個集群,隨著es在我們系統(tǒng)中的地位越來越重要,數(shù)據(jù)也越來越多,針對它的安全性問題也越發(fā)重要,那如何對es做異地容災(zāi)呢? ? ?今天咱們就一起看下官方提供的解決方案cross-cluster replication(簡稱ccr)。 環(huán)境準

    2024年02月04日
    瀏覽(24)
  • 阿里云 ACK One 新特性:多集群網(wǎng)關(guān),幫您快速構(gòu)建同城容災(zāi)系統(tǒng)

    阿里云 ACK One 新特性:多集群網(wǎng)關(guān),幫您快速構(gòu)建同城容災(zāi)系統(tǒng)

    近日,阿里云分布式云容器平臺 ACK One [ 1] 發(fā)布“多集群網(wǎng)關(guān)” [ 2] (ACK One Multi-cluster Gateways)新特性,這是 ACK One 面向多云、多集群場景提供的云原生網(wǎng)關(guān),用于對多集群南北向流量進行統(tǒng)一管理。 基于 ACK One 多集群網(wǎng)關(guān)可以快速構(gòu)建多集群應(yīng)用的同城容災(zāi)系統(tǒng),幫助企業(yè)

    2024年01月18日
    瀏覽(13)
  • 【Ceph】Ceph集群應(yīng)用詳解

    【Ceph】Ceph集群應(yīng)用詳解

    接上文基于ceph-deploy部署Ceph集群詳解 Pool是Ceph中 存儲Object對象抽象概念 。我們可以將其理解為 Ceph存儲上劃分的邏輯分區(qū) ,Pool由多個PG組成;而 PG通過CRUSH算法映射到不同的OSD上 ;同時Pool可以設(shè)置副本size大小,默認副本數(shù)量為3。 Ceph客戶端向monitor請求集群的狀態(tài),并向P

    2024年02月16日
    瀏覽(17)

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包