導(dǎo)讀
蜀海供應(yīng)鏈?zhǔn)羌N(xiāo)售、研發(fā)、采購(gòu)、生產(chǎn)、品保、倉(cāng)儲(chǔ)、運(yùn)輸、信息、金融為一體的餐飲供應(yīng)鏈服務(wù)企業(yè)。2021年初,蜀海信息技術(shù)中心大數(shù)據(jù)技術(shù)研發(fā)團(tuán)隊(duì)開(kāi)始測(cè)試用DolphinScheduler作為數(shù)據(jù)中臺(tái)和各業(yè)務(wù)產(chǎn)品項(xiàng)目的任務(wù)調(diào)度系統(tǒng)工具。本文主要分享了蜀海供應(yīng)鏈在海豚早期舊版本實(shí)踐過(guò)程中的探索創(chuàng)新和在跨大版本升級(jí)部署過(guò)程中的經(jīng)驗(yàn),希望對(duì)大家有所啟發(fā)和幫助。
作者簡(jiǎn)介
杜全,蜀海供應(yīng)鏈大數(shù)據(jù)工程師,參與蜀海大數(shù)據(jù)平臺(tái)和數(shù)據(jù)中臺(tái)建設(shè)。
業(yè)務(wù)背景介紹
我們公司的主要業(yè)務(wù)如下圖所示:
- 領(lǐng)導(dǎo)駕駛艙:提供給高層領(lǐng)導(dǎo)查看的數(shù)據(jù)準(zhǔn)實(shí)時(shí)分析,T+1經(jīng)營(yíng)分析、產(chǎn)品毛利類(lèi)、市場(chǎng)價(jià)格等報(bào)表
- 財(cái)務(wù):各類(lèi)日?qǐng)?bào)、月報(bào)、年度報(bào)表;對(duì)賬、毛利報(bào)表、指標(biāo)表等
- 客戶(hù)銷(xiāo)售:客戶(hù)采銷(xiāo)類(lèi)實(shí)時(shí)報(bào)表、日?qǐng)?bào)、月報(bào)各個(gè)維度的數(shù)據(jù)分析及查詢(xún)銷(xiāo)售明細(xì)數(shù)據(jù)
- 供應(yīng)商類(lèi):采購(gòu)分析、詢(xún)價(jià)報(bào)表、供應(yīng)商等級(jí)、供應(yīng)商工作臺(tái)、供應(yīng)商對(duì)賬分析,采購(gòu)策略?xún)?yōu)化等
- 倉(cāng)儲(chǔ):庫(kù)存周轉(zhuǎn)、庫(kù)位、實(shí)時(shí)庫(kù)存等各種維度數(shù)據(jù)指標(biāo)及報(bào)表需求
- 物流運(yùn)輸類(lèi):準(zhǔn)點(diǎn)率、溫控、運(yùn)輸成本,調(diào)度等分析
- 數(shù)據(jù)分析師:快速響應(yīng)各種數(shù)據(jù)分析需求,及高層領(lǐng)導(dǎo)各種臨時(shí)數(shù)據(jù)需求,數(shù)據(jù)挖掘及各種實(shí)時(shí)交互式分析
- 各業(yè)務(wù)運(yùn)營(yíng)/策略/負(fù)責(zé)人:主要查看各自業(yè)務(wù)運(yùn)營(yíng)的整體情況,查詢(xún)數(shù)據(jù)中臺(tái)的各該業(yè)務(wù)各種維度實(shí)時(shí)聚合數(shù)據(jù)
- 以及一些其他業(yè)務(wù)的數(shù)據(jù)報(bào)表及分析需求。
集成升級(jí)經(jīng)驗(yàn)
在數(shù)據(jù)中臺(tái)建設(shè)過(guò)程中,好的大數(shù)據(jù)調(diào)度組件往往能達(dá)到事半功倍的作用,我們團(tuán)隊(duì)也深知這一點(diǎn),因此選擇了海豚調(diào)度作為蜀海供應(yīng)鏈數(shù)據(jù)中臺(tái)的調(diào)度系統(tǒng),并經(jīng)過(guò)從v1.3.6的耦合集成部署改造到v3.1.8解耦集成部署的改造的階段,在這個(gè)過(guò)程中也遇到了各種各樣的問(wèn)題并及時(shí)提供了解決方案,現(xiàn)就這些做一下分享,希望可以幫助到各位小伙伴。
海豚調(diào)度舊版本集成
之前團(tuán)隊(duì)集成的舊版本為v1.3.6,已經(jīng)在生產(chǎn)環(huán)境穩(wěn)定運(yùn)行兩年多了,這里主要簡(jiǎn)單介紹下當(dāng)時(shí)集成到數(shù)據(jù)中臺(tái)的細(xì)節(jié)及隨著業(yè)務(wù)量劇增帶來(lái)的痛點(diǎn)。
(1)API服務(wù)、UI改造對(duì)接集成到中臺(tái)
- 前端UI改造
基于dolphinscheduler-ui項(xiàng)目二次開(kāi)發(fā)(改動(dòng)量大)適配中臺(tái)樣式,集成各海豚調(diào)度菜單(首頁(yè)、項(xiàng)目管理、資源中心、數(shù)據(jù)源中心、監(jiān)控中心、安全中心)到中臺(tái),統(tǒng)一走中臺(tái)路由網(wǎng)關(guān)。
- 后端API接口服務(wù)改造
基于dolphinscheduler-api項(xiàng)目二次開(kāi)發(fā),融合中臺(tái)用戶(hù)體系改造。核心改造點(diǎn)如下:
① 改造點(diǎn)1:LoginHandlerInterceptor攔截器類(lèi)preHandle()方法重構(gòu)
② 改造點(diǎn)2:每個(gè)Controller控制層類(lèi)中接口方法增加獲取登錄用戶(hù)方法getLoginUser()
方法
③ 改造點(diǎn)3:返回?cái)?shù)據(jù)及分頁(yè)數(shù)據(jù)方法改造
(2)告警改造增加釘釘告警
v1.3.6版本告警組組類(lèi)型僅支持:郵件、短信兩種。公司平時(shí)是通過(guò)釘釘接收告警信息,因此需要集成釘釘告警類(lèi)型。核心改造點(diǎn)如下:
① 步驟1:定義DingAlertPlugin釘釘告警插件類(lèi)實(shí)現(xiàn)AlertPlugin接口,重寫(xiě)getId()
、getName()
及process()
方法
② 步驟2:定義DingManager釘釘發(fā)送管理類(lèi)
③ 步驟3:編寫(xiě)DingUtils釘釘發(fā)送消息工具類(lèi)
④ 步驟4:向AlertServer注冊(cè)釘釘告警插件
⑤ 步驟5:打包部署并修改dolphinscheduler-daemon.sh
打包部署根據(jù)具體修改邏輯,這里修改了dolphinscheduler-alert-1.3.6.jar
和dolphinscheduler-dao-1.3.6.jar
因此打包這兩個(gè)包即可。另外,安裝路徑下增加alertlib文件夾并在dolphinscheduler-daemon.sh中增加alter-server加載邏輯。
(3)集成成果展示
數(shù)據(jù)中臺(tái)集成菜單與v1.3.6海豚調(diào)度保持一致,主要包括:首頁(yè)、項(xiàng)目管理、資源中心、數(shù)據(jù)源中心、監(jiān)控中心、安全中心,這些菜單都是集成到了我們的數(shù)據(jù)中臺(tái)中,前端走平臺(tái)統(tǒng)一的路由網(wǎng)關(guān)。
(4)v1.3.6舊版本業(yè)務(wù)痛點(diǎn)問(wèn)題
-
工作流定義表
process_definition_json
字段大JSON 任務(wù)和工作流耦合度高,解析json,非常耗費(fèi)性能,且任務(wù)沒(méi)法重用;否則會(huì)導(dǎo)致數(shù)據(jù)大量冗余,性能差,資源消耗嚴(yán)重 -
升級(jí)困難,1.3.6集成到數(shù)據(jù)中臺(tái)系統(tǒng)中,相當(dāng)于二次開(kāi)發(fā)了API服務(wù),集成了中臺(tái)用戶(hù)體系走統(tǒng)一路由網(wǎng)關(guān),前端UI組件每一次升級(jí),海豚調(diào)度就會(huì)出現(xiàn)各種前端樣式問(wèn)題(SUB_PROCESS 子工作流 進(jìn)入不到該子節(jié)點(diǎn)下)、菜單顯示不全、日志全屏看不全、項(xiàng)目主頁(yè)上下滑動(dòng)不了等等一系列UI交互問(wèn)題
-
任務(wù)間自定義參數(shù)上下不能依賴(lài)傳參
-
工作流實(shí)例任務(wù)交叉沒(méi)有任務(wù)執(zhí)行策略 ,默認(rèn)是并行處理的,不保證單例模式,比如調(diào)度頻率高時(shí) 前一個(gè)工作流實(shí)例還未執(zhí)行完,后一個(gè)又開(kāi)始,造成數(shù)據(jù)錯(cuò)亂、不準(zhǔn)確
-
自帶數(shù)據(jù)質(zhì)量從3.0.0開(kāi)始
-
支持多種告警插件類(lèi)型和告警組及實(shí)例管理(不限于釘釘),從3.0.0開(kāi)始
-
前端UI大調(diào)整、優(yōu)化
鑒于第一版集成的v1.3.6以上的業(yè)務(wù)痛點(diǎn),升級(jí)并重構(gòu)集成方式變得尤為重要。
海豚調(diào)度新版本升級(jí)
v1.3.6版本在數(shù)據(jù)分析師進(jìn)行業(yè)務(wù)分析流轉(zhuǎn)過(guò)程中面臨的痛點(diǎn),結(jié)合海豚調(diào)度新版本更優(yōu)的特性,升級(jí)到更新版本迫在眉睫,以下是對(duì)我們?cè)趯⒑k嗾{(diào)度集成到數(shù)據(jù)中臺(tái)以及升級(jí)過(guò)程的細(xì)節(jié)做一下介紹,希望對(duì)遇到跨大版本升級(jí)的你有所幫助。
(1)新版本(v3.1.1)集成到中臺(tái)
- 海豚調(diào)度集成中臺(tái)項(xiàng)目整體架構(gòu)
主要分為:數(shù)據(jù)中臺(tái)-前端、數(shù)據(jù)中臺(tái)-后端、海豚調(diào)度API服務(wù)
- 海豚調(diào)度集成中臺(tái)調(diào)用流程
主要流程:數(shù)據(jù)中臺(tái)-前端請(qǐng)求打開(kāi)海豚調(diào)度菜單->調(diào)用數(shù)據(jù)中臺(tái)后端獲取海豚調(diào)度用戶(hù)登錄信息接口->返回用戶(hù)名密碼->登入海豚調(diào)度系統(tǒng)->數(shù)據(jù)中臺(tái)-前端請(qǐng)求退出平臺(tái)賬號(hào)->海豚調(diào)度接口登出接口->退出系統(tǒng)
- 數(shù)據(jù)模型及設(shè)計(jì)細(xì)節(jié)
海豚調(diào)度集成數(shù)據(jù)中臺(tái)項(xiàng)目中間用戶(hù)模型設(shè)計(jì)
模型設(shè)計(jì)的目的主要建立數(shù)據(jù)中臺(tái)和海豚調(diào)度用戶(hù)的關(guān)系,便于在數(shù)據(jù)中臺(tái)用戶(hù)登錄后,點(diǎn)擊海豚調(diào)度菜單時(shí)獲取到對(duì)應(yīng)的海豚調(diào)度用戶(hù)登錄信息成功登錄。
(2)v1.3.6滾動(dòng)遷移并升級(jí)到v3.1.8+
這里我以我們生產(chǎn)環(huán)境升級(jí)版本v1.3.6為起點(diǎn),經(jīng)過(guò)v2.0.0->2.0.9>3.0.0>3.1.0->3.18這些版本迭代升級(jí)<當(dāng)然可以跨度步伐邁的再小一點(diǎn),出現(xiàn)的問(wèn)題可能就更少了,因?yàn)楫吘构倬W(wǎng)提供的update_schema.sh腳本是適用于小版本的,對(duì)于大版本兼容性支持不完善。
在升級(jí)過(guò)程中主要在v2.0.0需要修改部分源碼兼容升級(jí),其他版本基本都是需要修改schema對(duì)應(yīng)的ddl腳本兼容升級(jí),主要升級(jí)流程總結(jié)如下:
- 下載目標(biāo)升級(jí)安裝包(需要滾動(dòng)升級(jí)的源碼包和二進(jìn)制包下載)
下載新穩(wěn)定版本(待升級(jí)版本)的所有二進(jìn)制安裝包,并將二進(jìn)制包放到與當(dāng)前 DolphinScheduler 舊服務(wù)不一樣的路徑中,升級(jí)步驟需在新版本的目錄進(jìn)行。
注意:如果存在跨大版本升級(jí)需求,尤其是跨v2.0.0版本,需要下載2.0.0源碼包,修改詳見(jiàn)(3)
- Dolphin Scheduler元數(shù)據(jù)備份(獲取生產(chǎn)舊版本SQL腳本)
從生產(chǎn)環(huán)境轉(zhuǎn)儲(chǔ)或用dump命令備份數(shù)據(jù)庫(kù)腳本文件,一些非必要的日志表數(shù)據(jù)可以不要,但需要備份表結(jié)構(gòu)。
- 修改升級(jí)版本的配置文件
這里按版本分為≤v2.0.9和≥v3.0.0,在v2.0.9版本之前,目錄結(jié)構(gòu)大致如下:
在v3.0.0版本之后,目錄結(jié)構(gòu)大致如下:
一般修改遵循先配置升級(jí)schema,再配置基礎(chǔ)部署文件的原則。
對(duì)于≤v2.0.9而言,配置升級(jí)schema需要修改conf/datasource.properties
文件并將數(shù)據(jù)庫(kù)驅(qū)動(dòng)包放在lib目錄下即可;而配置基礎(chǔ)部署文件需要修改conf/common.properties
、conf/config/install_config.conf
、conf/env/dolphinscheduler_env.sh
。
對(duì)于≥v3.0.0而言,配置升級(jí)schema則需要修改bin/env/dolphinscheduler_env.sh
并將數(shù)據(jù)庫(kù)驅(qū)動(dòng)包放在tools/libs
目錄下即可;而配置基礎(chǔ)部署文件則需要修改bin/env/install_env.sh、alert/master/worker/api-server/conf
下的common.properties
、application.yaml
。
- 更新數(shù)據(jù)庫(kù)、執(zhí)行數(shù)據(jù)庫(kù)升級(jí)腳本
這里說(shuō)明一下,如果剛好是v2.0.0之前的舊版本,那就會(huì)遇到一個(gè)棘手問(wèn)題:工作流定義表大JSON未拆分。首先需要通過(guò)官方提供的update-schema.sh
拆分大JSON并且在執(zhí)行過(guò)程中會(huì)出現(xiàn)很多問(wèn)題,除非你們公司的舊版本的工作流定義ID未經(jīng)過(guò)刪減一直保持自增并且不間斷,因?yàn)楣俜綄?duì)于工作流定義中tasks的拆分邏輯是自增的,找不到就會(huì)報(bào)錯(cuò),因此需要修改v2.0.0源碼兼容。
- 安裝部署、啟用最新版本的服務(wù)
這里會(huì)遇到一個(gè)問(wèn)題,當(dāng)執(zhí)行bin/install.sh
后,應(yīng)該在3.1.x版本后都會(huì)遇到, 在install.sh
的第四步<即:4.delete zk node>中會(huì)出現(xiàn)如下報(bào)錯(cuò):
大概分析了下,經(jīng)過(guò)排查定位確定是缺jar包,我用的Zookeeper版本為v3.8.0。而worker-server/master-server/api-server的libs
下commons-cli-1.2.jar
源包中也確實(shí)沒(méi)有DefaultParser類(lèi),是因?yàn)?.2的版本過(guò)低。
解決辦法:下載≥1.4的common-cli
包分別放到各服務(wù)對(duì)應(yīng)的libs下,再次安裝部署就沒(méi)問(wèn)題了,https://mvnrepository.com/artifact/commons-cli/commons-cli/1.4
,效果如下:
這里會(huì)出現(xiàn)一個(gè)顯眼的ERROR信息:ERROR org.apache.zookeeper.util.ServiceUtils - Exiting JVM with code 0
,雖然看著不舒服,但請(qǐng)忽略這個(gè)是Zookeeper正常執(zhí)行完命令的退出碼,0表示程序正常終止,如果仍存在疑惑可以打開(kāi)一個(gè)Zookeeper客戶(hù)端(bin/zkCli.sh)Ctrl+D
試一下退出。
- 初始化數(shù)據(jù)、驗(yàn)證新版本功能
初始化數(shù)據(jù)主要包括:租戶(hù)、用戶(hù)、告警組及實(shí)例、資源中心、數(shù)據(jù)源中心、環(huán)境管理等數(shù)據(jù)信息維護(hù),這些需要根據(jù)公司具體業(yè)務(wù)場(chǎng)景自行維護(hù),功能驗(yàn)證這里不再贅述。
(3)滾動(dòng)升級(jí)過(guò)程中遇到的問(wèn)題總結(jié)
- OutOfMemoryError:Java heap space (v1.3.6->v2.0.0)
出現(xiàn)這種問(wèn)題的原因是:在升級(jí)到v2.0.0過(guò)程中需要拆分工作流定義表process_definition_json
字段,而我們的工作流定義數(shù)為6463個(gè)(隨著業(yè)務(wù)量還在增長(zhǎng)中),拆分需要大量耗費(fèi)內(nèi)存,Java堆空間不足,導(dǎo)致無(wú)法分配更多的內(nèi)存,這個(gè)需要根據(jù)服務(wù)器配置適當(dāng)調(diào)大-Xmx參數(shù),這里我調(diào)整到了-Xmx4g,然后升級(jí)就沒(méi)問(wèn)題了。
- json split error && NullPointException:null (v1.3.6->v2.0.0)
這個(gè)問(wèn)題說(shuō)實(shí)在的,剛開(kāi)始是一臉懵逼啊,差點(diǎn)讓我放棄了跨大版本的升級(jí)之路,然后直覺(jué)告訴我遇到問(wèn)題不要慌,要淡定,于是果斷下載v2.0.0源碼,定位到了源代碼位置,分析后對(duì)其進(jìn)行了修改并打印記錄錯(cuò)誤日志,以便后續(xù)分析,先讓程序正常運(yùn)行起來(lái),這里我在調(diào)試過(guò)程中主要修改了以下幾處:
源碼修改第1處主要是規(guī)避processDefinitionMap為空,導(dǎo)致的空指針異常,如下圖所示:
源碼修改第2處主要是規(guī)避task對(duì)象節(jié)點(diǎn)獲取description描述信息為空,導(dǎo)致的空指針異常,如下圖所示:
源碼修改第3處主要是規(guī)避task對(duì)象節(jié)點(diǎn)獲取preTasks前置任務(wù)為空,導(dǎo)致的空指針異常,如下圖所示:
- Data too long for column 'task_params' (v1.3.6->v2.0.0)
這個(gè)問(wèn)題需要修改官方提供的DDL腳本,具體需要修改dolphinscheduler_ddl.sql
中t_ds_task_definition_log 的task_params
字段長(zhǎng)度text->longtext以及t_ds_task_instance
的task_params
字段長(zhǎng)度text->longtext
,text已經(jīng)滿(mǎn)足不了任務(wù)參數(shù)的存儲(chǔ)大小要求了,如下圖所示:
- Duplicate column name 'alter_type' (v2.0.9->v3.0.0)
這個(gè)問(wèn)題是因?yàn)樵趘2.0.9及之前某個(gè)版本已經(jīng)添加過(guò),官方腳本未注釋掉。
- class path resource [sql/upgrade/2.0.0_schema/mysql/dolphinscheduler_dml.sql] cannot be opened because it does not exist (v2.0.0->v3.1.7 這個(gè)是前提調(diào)研嘗試的)
這個(gè)問(wèn)題個(gè)人總結(jié)是版本跨度太大導(dǎo)致的,也印證了升級(jí)腳本只能小碎步,不能大跨步升級(jí),如果你也遇到跨大版本升級(jí),可以參考我的滾動(dòng)升級(jí)版本,少走彎路。
- Unknown column 'other_params_json' in 't_ds_worker_group' (v3.0.0->v3.1.0)
修改官方提供的DDL腳本,需要調(diào)整dolphinscheduler_ddl.sql,t_ds_worker_group
表增加other_params_json
字段,t_ds_process_instance
表增加state_history
字段,如下圖所示:
- Unknown column 'description' in 't_ds_worker_group' (v3.1.0->v3.1.8)
修改官方提供的DDL腳本(在v3.1.8中3.1.1_schema
下),需要調(diào)整dolphinscheduler_ddl.sql
,t_ds_worker_group
表增加description
字段,如下圖所示:
- 不向前兼容性的更新
這個(gè)兼容性主要涉及v3.0.0和v3.1.1版本,對(duì)于v3.0.0一個(gè)是復(fù)制和導(dǎo)入工作流時(shí)去掉了copy前綴;使用分號(hào);作為SQL默認(rèn)分隔符。對(duì)于v3.1.1就是改變了unix執(zhí)行shell的方式由sh改為bash,這些影響基本可以忽略。
(4)集成成果展示
數(shù)據(jù)中臺(tái)集成菜單是平臺(tái)定義的,只有一個(gè)入口菜單,即:海豚調(diào)度,這里嵌入中臺(tái)的截圖的是v3.1.1的版本,v3.1.8隨后會(huì)快速集成進(jìn)去,除了狀態(tài)和定時(shí)狀態(tài)樣式基本大差不差。
技術(shù)創(chuàng)新之?dāng)?shù)據(jù)表血緣
基于海豚調(diào)度工作流定義,我們也做了創(chuàng)新性的數(shù)據(jù)表血緣實(shí)踐,總體邏輯通過(guò)解析工作流定義,在數(shù)據(jù)流轉(zhuǎn)過(guò)程中基本都是以Insert...Select
這種語(yǔ)法,以輸入表(Select語(yǔ)句)、輸出表(Insert語(yǔ)句)作為流轉(zhuǎn)過(guò)程構(gòu)建數(shù)據(jù)血緣DAG流圖來(lái)賦能我們的業(yè)務(wù),相當(dāng)于為數(shù)據(jù)中臺(tái)插了一雙眼,真正做到數(shù)據(jù)表流轉(zhuǎn)過(guò)程的可視化,這些都是以海豚調(diào)度作為核心點(diǎn)展開(kāi)的。
數(shù)據(jù)血緣解析及全量查詢(xún)
(1)數(shù)據(jù)血緣解析
- 整體架構(gòu)
- 解析流程及展示
- 解析SQL的核心代碼
解析SQL表血緣,我們采用的是阿里的Druid,建議版本(≥V1.2.6),Druid解析SQL還是很強(qiáng)大的,它的TableStat支持Merge、Insert、Update、Select、Delete、Drop、Create、Alter、CreateIndex、DropIndex這些類(lèi)型并且可以按照語(yǔ)法組合,比如:InsertSelect,我們的血緣解析執(zhí)行多個(gè)insert...select
語(yǔ)句解析,多個(gè)用分號(hào);分割
(2)數(shù)據(jù)血緣查詢(xún)
(3)全量血緣查詢(xún)
全量血緣查詢(xún)可以以輸入、輸出表的形式直觀(guān)的展示海豚調(diào)度項(xiàng)目工作流定義,快速查詢(xún)定位到某個(gè)任務(wù),給我們數(shù)據(jù)分析師帶來(lái)了極大的便利。
(4)血緣異常處理
在數(shù)據(jù)血緣解析過(guò)程中,難免會(huì)出現(xiàn)SQL語(yǔ)句解析異常的情況,我們也考慮到了這一點(diǎn),總體異常處理流程如下:
用戶(hù)收益
- 支撐公司數(shù)據(jù)中臺(tái)每日累計(jì)近7000的工作流定義任務(wù)個(gè)數(shù),78個(gè)項(xiàng)目基本涵蓋數(shù)據(jù)中臺(tái)的所有業(yè)務(wù)模塊;
- 基于工作流和任務(wù)定義構(gòu)建的表級(jí)上下游血緣解析及查詢(xún),真正做到了表血緣關(guān)系的統(tǒng)一化檢索和可視化管理,極大提升了數(shù)據(jù)中臺(tái)開(kāi)發(fā)人員和數(shù)據(jù)分析師的日常檢索表的效率;
- 提供了設(shè)置任務(wù)執(zhí)行策略模式,在同一工作流實(shí)例下任務(wù)交叉執(zhí)行時(shí),保證了數(shù)據(jù)的準(zhǔn)確性;解決了任務(wù)間自定義參數(shù)上下游依賴(lài)傳參問(wèn)題;
- 后續(xù)迭代升級(jí)可以做到快速高效地響應(yīng)數(shù)據(jù)中臺(tái)生產(chǎn)需求。
總結(jié)與致謝
不得不說(shuō)基于Apache DolphinScheduler提供的強(qiáng)大集成擴(kuò)展插件能力大幅提升了企業(yè)數(shù)據(jù)加工、集成、開(kāi)發(fā)的效率,真正做到了為企業(yè)業(yè)務(wù)數(shù)據(jù)分析高效流轉(zhuǎn)賦能。
我們第一版數(shù)據(jù)中臺(tái)集成部署時(shí)使用的是v1.3.6 版本。目前社區(qū)已經(jīng)發(fā)布了v3.1.8,并且這次我們也是滾動(dòng)升級(jí)到了最新版本v3.1.8,也是緊跟社區(qū)步伐,官方社區(qū)v3.2.0也在預(yù)熱中,迭代速度之快,也側(cè)面反映了用戶(hù)群體在日益倍增。如果你們公司正在為選擇大數(shù)據(jù)調(diào)度組件而苦惱,我們真心強(qiáng)烈建議使用海豚調(diào)度。
加入社區(qū)、進(jìn)DS Group群,DS也會(huì)有每周的FAQ環(huán)節(jié)及時(shí)為你答疑解惑,貼心服務(wù),你值得擁有。
強(qiáng)烈值得推薦Apache DolphinScheduler,調(diào)度選的好,下班回家早;調(diào)度選的對(duì),半夜安心睡!希望大家都能從中受益,告別996。
最后,衷心祝愿Apache DolphinScheduler生態(tài)圈越來(lái)越好!
用戶(hù)簡(jiǎn)介
蜀海(北京)供應(yīng)鏈管理有限責(zé)任公司
所屬行業(yè):整體食材供應(yīng)鏈
蜀海供應(yīng)鏈成立于2014年6月,是集銷(xiāo)售、研發(fā)、采購(gòu)、生產(chǎn)、品保、倉(cāng)儲(chǔ)、運(yùn)輸、信息、金融為一體的餐飲供應(yīng)鏈服務(wù)企業(yè),現(xiàn)為廣大餐飲連鎖企業(yè)及零售客戶(hù)提供整體食材供應(yīng)鏈解決方案服務(wù)。
蜀海擁有遍布全國(guó)的現(xiàn)代化冷鏈物流中心、食品工廠(chǎng)、蔬果加工中心、底料加工等基地。以安全透明的供應(yīng)鏈體系為餐飲客戶(hù)提供品質(zhì)服務(wù),解決餐飲行業(yè)難標(biāo)準(zhǔn)化的痛點(diǎn)。在凈菜生產(chǎn)、菜品研發(fā)、餐飲標(biāo)準(zhǔn)工業(yè)化等項(xiàng)目領(lǐng)域做持續(xù)不斷的研究升級(jí)下,蜀海獲得了業(yè)內(nèi)權(quán)威機(jī)構(gòu)和廣大客戶(hù)的認(rèn)可,已成為供應(yīng)鏈領(lǐng)域的標(biāo)桿企業(yè)。文章來(lái)源:http://www.zghlxwxcb.cn/news/detail-695572.html
本文由 白鯨開(kāi)源 提供發(fā)布支持!文章來(lái)源地址http://www.zghlxwxcb.cn/news/detail-695572.html
到了這里,關(guān)于用戶(hù)案例 | 蜀海供應(yīng)鏈基于 Apache DolphinScheduler 的數(shù)據(jù)表血緣探索與跨大版本升級(jí)經(jīng)驗(yàn)的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!