新時(shí)代開源數(shù)據(jù)調(diào)度在1000+企業(yè)的進(jìn)化之路
原創(chuàng)近年來,隨著互聯(lián)網(wǎng)的飛速發(fā)展,業(yè)務(wù)量在短時(shí)間內(nèi)呈現(xiàn)爆發(fā)式增長,對(duì)應(yīng)的數(shù)據(jù)量快速從數(shù)百 G 漲至數(shù)百 T。無論數(shù)據(jù)存儲(chǔ)還是數(shù)據(jù)調(diào)度,當(dāng)前數(shù)據(jù)量已經(jīng)遠(yuǎn)超處理能力的上限。若信息處理技術(shù)仍漸進(jìn)式發(fā)展,數(shù)據(jù)處理能力的提升將遠(yuǎn)落后于指數(shù)級(jí)增長的數(shù)據(jù)量。
可想而知,提升數(shù)據(jù)處理能力、使任調(diào)度任務(wù)效率最大化、保持工具高可用是目前各企業(yè)的共同訴求,同時(shí)也是大數(shù)據(jù)發(fā)展所要面對(duì)的核心技術(shù)難點(diǎn)。
在這樣的背景下,大數(shù)據(jù)領(lǐng)域也涌現(xiàn)了很多優(yōu)秀的開源項(xiàng)目。
其中大數(shù)據(jù)任務(wù)調(diào)度以 Apache DolphinScheduler 項(xiàng)目為代表:基于 Apache 開源社區(qū)理念打造的 Apache DolphinScheduler 是全球知名的 DataOps 領(lǐng)域開源項(xiàng)目,擁有超過350人的貢獻(xiàn)者群體。作為一個(gè)分布式去中心化,易擴(kuò)展的可視化工作流任務(wù)調(diào)度平臺(tái),Apache DolphinScheduler 已累計(jì)在 1000 多家公司生產(chǎn)環(huán)境中作為企業(yè)的核心調(diào)度系統(tǒng),包括 IBM、騰訊、科大訊飛、美團(tuán)、360、聯(lián)通、順豐等,覆蓋金融、電信、零售、云計(jì)算、數(shù)據(jù)處理等眾多領(lǐng)域。
自2021年4月9日從 ASF 孵化器畢業(yè)成為 Apache 頂級(jí)項(xiàng)目后,Apache DolphinScheduler 一直保持著強(qiáng)勁的發(fā)展勢頭。在數(shù)年的演進(jìn)歷程中始終保持快速的版本更新與持續(xù)的架構(gòu)迭代。且值得關(guān)注的是,Apache Dolphin Scheduler 已于近日迎來了其3.0.0-beta-1 版本的正式發(fā)布。
6月23日的【T·Talk】技術(shù)分享活動(dòng)中,我們特別邀請(qǐng)到了白鯨開源聯(lián)合創(chuàng)始人、Apache DolphinScheduler PMC Chair 代立冬老師為大家分享 Apache DolphinScheduler 的進(jìn)化之路。屆時(shí),代立冬老師將詳細(xì)介紹 Apache DolphinScheduler 架構(gòu)迭代中的經(jīng)驗(yàn)與教訓(xùn),并分享對(duì)云原生時(shí)代調(diào)度架構(gòu)的思考與前瞻。
無論你是熱衷于鉆研開源技術(shù)的開發(fā)者,還是“大數(shù)據(jù)調(diào)度”的開源資深愛好者,都能從這些前沿的案例中獲得全新的靈感。
歡迎大家參與6月23日,晚上20:00【T·TALK】第12期技術(shù)分享活動(dòng)
掃海報(bào)下方二維碼預(yù)約觀看
?
嘉賓介紹:
代立冬,白鯨開源聯(lián)合創(chuàng)始人、Apache DolphinScheduler PMC Chair、Apache Member、Apache SeaTunnel PPMC、Apache 孵化器導(dǎo)師、ApacheCon Asia Bigdata Track co-Chair(2021)、COSCon 大數(shù)據(jù)論壇出品人,組織過萬人的大數(shù)據(jù)技術(shù)社區(qū)。