今天,JuiceFS v1.0 發(fā)布了 ??
經(jīng)過了 18 個(gè)月的持續(xù)迭代和大量生產(chǎn)環(huán)境的廣泛驗(yàn)證,此版本將成為第一個(gè)被長(zhǎng)期維護(hù)的穩(wěn)定版(LTS)。同時(shí),該版本提供完整的向前兼容,所有用戶可以直接升級(jí)。
JuiceFS 是為云環(huán)境設(shè)計(jì)的分布式文件系統(tǒng),同時(shí)兼容 POSIX、HDFS、S3 訪問協(xié)議,也可以使用 CSI 方式在 Kubernetes 中作為 PV 使用,在大數(shù)據(jù)、機(jī)器學(xué)習(xí),和需要共享文件存儲(chǔ)的場(chǎng)景中廣泛使用。
可用于生產(chǎn)環(huán)境
穩(wěn)定可靠的軟件離不開全面的質(zhì)量管理體系,JuiceFS 的測(cè)試體系已經(jīng)涵蓋了每日進(jìn)行的單元測(cè)試、基礎(chǔ)功能測(cè)試、兼容性測(cè)試、第三方工具測(cè)試以及實(shí)際應(yīng)用場(chǎng)景測(cè)試。每一個(gè)版本發(fā)布之前,還需要額外完成異常測(cè)試和壓力測(cè)試。在這次 v1.0 正式版發(fā)布前,我們模擬了從 Redis 切換到 TiKV 再持續(xù)寫入 100 億小文件,來驗(yàn)證系統(tǒng)的擴(kuò)展性。
在過去的一年半里,來自不同行業(yè)、不同企業(yè)規(guī)模的社區(qū)用戶嘗試將 JuiceFS 應(yīng)用到更為廣泛的場(chǎng)景中:人工智能、大數(shù)據(jù)、云原生、數(shù)據(jù)共享、備份歸檔等。JuiceFS 的能力在應(yīng)用中獲得了持續(xù)改進(jìn),并上線到生產(chǎn)環(huán)境中,經(jīng)受住了持續(xù)的穩(wěn)定性和性能考驗(yàn)。
有上千集群在持續(xù)使用 JuiceFS,最大集群規(guī)模超過 10PB 數(shù)據(jù)和數(shù)十億文件。這些用戶來自互聯(lián)網(wǎng)和科技、電信運(yùn)營(yíng)商、生命醫(yī)藥、航天、氣象、遙感等領(lǐng)域;包括有移動(dòng)云、航天宏圖、小米、vivio、攜程旅行、大疆、理想汽車、上汽集團(tuán)、地平線、云知聲、深勢(shì)科技、商湯、Shopee、知乎、網(wǎng)易游戲、一面數(shù)據(jù)等企業(yè),還有濟(jì)南超算中心、國家天文數(shù)據(jù)中心等。
這些社區(qū)用戶也分享了他們?cè)诓煌瑘?chǎng)景的實(shí)踐:
- 移動(dòng)云使用 JuiceFS 支持 Apache HBase 增效降本的探索
- 理想汽車使用 JuiceFS 實(shí)現(xiàn)數(shù)據(jù)平臺(tái)存算分離
- Shopee 使用JuiceFS 實(shí)現(xiàn) ClickHouse 數(shù)據(jù)冷熱分層
- 云知聲使用 JuiceFS 建設(shè)超算平臺(tái)分布式存儲(chǔ)
- 深勢(shì)科技使用 JuiceFS 實(shí)現(xiàn)多云 AI 科學(xué)計(jì)算平臺(tái)建設(shè)
- 知乎使用 JuiceFS 給 Flink 容器啟動(dòng)加速
點(diǎn)擊 此處 查看用戶案例合集。
功能快速瀏覽
JuiceFS 是第一個(gè)完全插件式的分布式文件系統(tǒng),元數(shù)據(jù)和數(shù)據(jù)都可以借助已有的成熟組件來實(shí)現(xiàn),以應(yīng)對(duì)豐富多變的企業(yè)環(huán)境和數(shù)據(jù)存儲(chǔ)需求,目前支持 10 種以上元數(shù)據(jù)引擎 和 30 種以上數(shù)據(jù)存儲(chǔ)引擎 。同時(shí),JuiceFS 同時(shí)兼容 POSIX、 HDFS、S3、WebDAV 等訪問協(xié)議,讓數(shù)據(jù)不再成為孤島,可以自由地在所有應(yīng)用中流通。
除了穩(wěn)定性之外,JuiceFS 還提升了全方面的數(shù)據(jù)安全保障:
- 數(shù)據(jù)存儲(chǔ)加密,讓文件內(nèi)容加密存儲(chǔ)在對(duì)象存儲(chǔ)中,防止數(shù)據(jù)意外泄露
- 回收站,防止手抖誤刪除
- 元數(shù)據(jù)導(dǎo)入 & 導(dǎo)出 工具不僅方便備份,還可以做元數(shù)據(jù)引擎遷移
- 元數(shù)據(jù)自動(dòng)備份,支持?jǐn)?shù)據(jù)延遲刪除,配合元數(shù)據(jù)備份,可以讓數(shù)據(jù)「回到過去」,防止誤更新
系統(tǒng)可觀測(cè)性也在持續(xù)增強(qiáng):
- 提供豐富的系統(tǒng)指標(biāo)監(jiān)控系統(tǒng)運(yùn)行狀態(tài),通過 API 直接接入 Prometheus,預(yù)置的 Grafana 模版
- 通過客戶端日志和訪問日志,可以了解系統(tǒng)詳情
- 文件元數(shù)據(jù)索引分析工具 juicefs info
- 性能實(shí)時(shí)診斷工具 juicefs profile
- 性能統(tǒng)計(jì)監(jiān)控工具 juicefs stats
- 支持 Graphite 協(xié)議收集 Hadoop SDK 的監(jiān)控?cái)?shù)據(jù)
- 內(nèi)置 Pyroscope 進(jìn)行性能分析
還有豐富的管理工具:
- juicefs sync 在任意兩個(gè)存儲(chǔ)系統(tǒng)之間復(fù)制數(shù)據(jù),相當(dāng)于高性能 rsync/DistCp,支持豐富的訪問協(xié)議
- juicefs warmup 可以為指定路徑預(yù)熱數(shù)據(jù),提升讀取性能
- juicefs rmr 快速刪除指定目錄
- juicefs config 可以在線修改文件系統(tǒng)配置
- juicefs fsck 可以檢查文件系統(tǒng)完整性,找出可能損壞的文件
- juicefs gc 可以回收意外泄露的數(shù)據(jù)
- juicefs bench 簡(jiǎn)單的基準(zhǔn)性能測(cè)試
- juicefs objbench 測(cè)試對(duì)象存儲(chǔ)的訪問權(quán)限和基準(zhǔn)性能
擁抱開源
JuiceFS 在 2017 年以云服務(wù)的形式發(fā)布,經(jīng)過三年的持續(xù)打磨和穩(wěn)健運(yùn)后,為了能讓更多的開發(fā)者體驗(yàn)到這款產(chǎn)品的便捷,我們?cè)?2021 年 1 月 11 日發(fā)布了插件化架構(gòu)的 JuiceFS 社區(qū)版,并以每月發(fā)布一個(gè)測(cè)試版的速度持續(xù)迭代。
當(dāng)聽到一些社區(qū)用戶反饋對(duì) AGPLv3 的顧慮后,我們?cè)?022年1月將 “AGPLv3 許可” 改為了 “Apache 2.0 許可”,讓用戶可以更放心地將 JuiceFS 應(yīng)用于各種商業(yè)環(huán)境,并且根據(jù)自身的需要進(jìn)行二次改進(jìn),也便于上下游的應(yīng)用進(jìn)行更進(jìn)一步的融合,比如 Fluid 和 PaddlePaddle Operator 就已經(jīng)將 JuiceFS 集成其中。
開源軟件的發(fā)展離不開社區(qū)用戶的共同努力,包括參與提交 issue、貢獻(xiàn) PR、分享文章、回答問題的每一位成員,在此向每一位參與者表示感謝!
未來規(guī)劃
JuiceFS v1.0 是第一個(gè)長(zhǎng)期維護(hù)( LTS)版本,我們會(huì)提供 24 個(gè)月的持續(xù)維護(hù)。
未來的版本會(huì)逐步實(shí)現(xiàn)以下這些功能(歡迎反饋):文章來源:http://www.zghlxwxcb.cn/news/detail-801638.html
- 支持 FoundationDB 做元數(shù)據(jù)引擎
- 錄配額
- 用戶和組配額
- POSIX ACL
- 快照
- WORM(Write Once Read Many)
在 JuiceFS 的持續(xù)迭代過程中,一直保持著向后兼容,希望新的改進(jìn)能夠更快地被用戶使用,未來的版本發(fā)布也會(huì)兼容 v1.0 并提供平滑升級(jí)的方案。同時(shí),JuiceFS v1.0 也為未來的版本做了一些向前兼容準(zhǔn)備。文章來源地址http://www.zghlxwxcb.cn/news/detail-801638.html
到了這里,關(guān)于JuiceFS v1.0 正式發(fā)布,首個(gè)面向生產(chǎn)環(huán)境的 LTS 版本的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!