騰訊歐拉平臺(tái)產(chǎn)品經(jīng)理:如何做一款好的數(shù)據(jù)平臺(tái)?
一、技術(shù)轉(zhuǎn)產(chǎn)品的思考
賀老師畢業(yè)于計(jì)算機(jī)軟件專業(yè),曾接觸過軟件開發(fā)、圖像識(shí)別、數(shù)學(xué)挖掘等專業(yè)知識(shí),畢業(yè)后成為了一名程序員。后經(jīng)歷了團(tuán)隊(duì)從業(yè)務(wù)的數(shù)據(jù)研發(fā)工作到中臺(tái)的數(shù)據(jù)平臺(tái)研發(fā)的轉(zhuǎn)型,積累了豐富的大數(shù)據(jù)研發(fā)經(jīng)驗(yàn)。由于個(gè)人興趣以及團(tuán)隊(duì)角色的需求,在同一個(gè)項(xiàng)目?jī)?nèi)逐步轉(zhuǎn)型為數(shù)據(jù)平臺(tái)產(chǎn)品經(jīng)理。
因此,技術(shù)到產(chǎn)品的轉(zhuǎn)型,需要結(jié)合內(nèi)在性格、外部機(jī)遇和自我培養(yǎng)等多方因素才能實(shí)現(xiàn)。
產(chǎn)品與研發(fā)的區(qū)別主要體現(xiàn)在職能、思維和研發(fā)上,兩者需要相互配合共同實(shí)現(xiàn)價(jià)值。數(shù)據(jù)平臺(tái)屬于技術(shù)型平臺(tái),對(duì)產(chǎn)品經(jīng)理的要求更高,既要有產(chǎn)品經(jīng)理的必備素養(yǎng),又要有大數(shù)據(jù)領(lǐng)域的專業(yè)技術(shù)。
技術(shù)轉(zhuǎn)型產(chǎn)品需要做如下一些準(zhǔn)備工作:
- 首先是判斷。從專業(yè)知識(shí)、好奇心、是否對(duì)負(fù)責(zé)任的事情操心、積極的心態(tài)、善于挑戰(zhàn)目標(biāo)、溝通能力等角度判斷是否適合轉(zhuǎn)型。并判斷是否有足夠好的機(jī)會(huì),比如在同一項(xiàng)目?jī)?nèi)部進(jìn)行轉(zhuǎn)型就是一個(gè)比較好的機(jī)會(huì)。
- 第二嘗試。在轉(zhuǎn)型之前,是從產(chǎn)品的視角對(duì)需求進(jìn)行思考,做一些思維上的簡(jiǎn)單訓(xùn)練和嘗試。從簡(jiǎn)單的需求入手,進(jìn)行原型圖繪制,需求文檔撰寫等。
- 第三是學(xué)習(xí)。培養(yǎng)自身產(chǎn)品經(jīng)理所需要的一些素養(yǎng),提升自身產(chǎn)品力,太過于技術(shù)的思維方式會(huì)阻礙產(chǎn)品力的發(fā)展,如果總是考慮實(shí)現(xiàn)的難度就可能會(huì)丟失一些好的想法。
二、深度理解數(shù)據(jù)工作者的需求
接下來分享如何由淺入深地理解數(shù)據(jù)平臺(tái)的用戶需求。
以內(nèi)容類 APP 為例,它是通過內(nèi)容連接用戶和平臺(tái),即作者使用 APP 發(fā)布內(nèi)容,APP 再通過推薦算法將合適的內(nèi)容推薦給用戶。在算法推薦、用戶精細(xì)化運(yùn)營(yíng)、業(yè)務(wù)決策環(huán)節(jié)都需要用到數(shù)據(jù)生產(chǎn)資料,尤其對(duì)于算法模型而言,數(shù)據(jù)決定了一個(gè)算法的上界。由此可見,數(shù)據(jù)非常重要。
在這種背景下,數(shù)據(jù)層面卻仍然面臨著很多問題。面向數(shù)據(jù)開發(fā)的工具非常多,但是圍繞數(shù)據(jù)資產(chǎn)本身的工具缺乏,導(dǎo)致數(shù)據(jù)的管理和使用混亂。數(shù)據(jù)需要反復(fù)驗(yàn)證,查詢速度非常慢導(dǎo)致數(shù)據(jù)分析師效率低。對(duì)于策略產(chǎn)品經(jīng)理而言,只能查到基礎(chǔ)的表結(jié)構(gòu),沒有功能去了解表的更多數(shù)據(jù)信息。公司內(nèi)的數(shù)據(jù)工具和平臺(tái)非常多,但沒有協(xié)同效應(yīng),連集群都是割裂的,這非常不利于數(shù)據(jù)工程師的工作。表名亂,沒有數(shù)據(jù)規(guī)范,數(shù)據(jù)質(zhì)量差,出了問題新入職的數(shù)據(jù)工程師也不知道能找誰(shuí)。
為了解決這些問題,我們以建設(shè)數(shù)據(jù)資產(chǎn)為目標(biāo),來搭建數(shù)據(jù)平臺(tái)能力。當(dāng)一份數(shù)據(jù)較為規(guī)范、易于理解、質(zhì)量可靠,我們可以稱之為數(shù)據(jù)資產(chǎn)。當(dāng)數(shù)據(jù)資產(chǎn)能方便地被下游使用時(shí),才可能發(fā)揮出數(shù)據(jù)中更大的價(jià)值。
因此早期歐拉平臺(tái)著力于打造一個(gè)數(shù)據(jù)資產(chǎn)管理平臺(tái),用于沉淀出業(yè)務(wù)的核心數(shù)據(jù)資產(chǎn),面向數(shù)據(jù)工程師提供數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量監(jiān)控能力。歐拉先采集表的技術(shù)元數(shù)據(jù)并做一些加工,然后提供一些管理工具給用戶登記業(yè)務(wù)元數(shù)據(jù)來豐富表的描述,讓數(shù)據(jù)變得更易理解。數(shù)據(jù)科學(xué)家或數(shù)據(jù)分析師在充分了解數(shù)據(jù)后,再使用 Presto 這樣的高速查詢引擎來快速獲取分析結(jié)果。
平臺(tái)上線后運(yùn)行效果并沒有完全達(dá)到預(yù)期,主要有以下問題。首先,問題產(chǎn)生后再解決比較棘手,例如開發(fā)一張表,表名已經(jīng)建好甚至數(shù)據(jù)已經(jīng)被下游使用,這時(shí)修改會(huì)很麻煩,只能做簡(jiǎn)單的數(shù)據(jù)管理。其次,數(shù)據(jù)已經(jīng)產(chǎn)生甚至已經(jīng)交付后治理的動(dòng)力明顯不足,導(dǎo)致最終業(yè)務(wù)的信息登記更少,無(wú)法形成一個(gè)有效的元數(shù)據(jù)管理氛圍,周期性運(yùn)動(dòng)式的治理難以持續(xù)。
那么 DE 到底需要什么呢?
- 通過 Presto 引擎將查詢速度提升了,但產(chǎn)品體驗(yàn)也是決定工作效率的核心因素。
- 技術(shù)元數(shù)據(jù)更豐富,擁有了數(shù)據(jù)地圖的檢索能力,但業(yè)務(wù)元數(shù)據(jù)很難沉淀,找到表之后缺乏描述表業(yè)務(wù)信息的內(nèi)容。
- 數(shù)據(jù)質(zhì)量問題能被有效監(jiān)控,但很難定位到根因。
- 數(shù)據(jù)管理、質(zhì)量監(jiān)控等能力在功能矩陣上新增了,但生產(chǎn)流程與管理流程依然割裂。
針對(duì)上述問題,有如下解法:
解法1:把一些治理動(dòng)作提前到生產(chǎn)過程中,不僅規(guī)范了表名,也規(guī)范了整個(gè)開發(fā)流程,從而推動(dòng)整個(gè)新表資產(chǎn)化的程度,舊表通過引入的方式進(jìn)入到治理過程。
解法2:有機(jī)整合在整個(gè)生產(chǎn)過程中用到的平臺(tái)工具,來提升數(shù)據(jù)工程師的效率,元數(shù)據(jù)信息也因此不會(huì)被重復(fù)冗余登記。
解法3:構(gòu)建數(shù)據(jù)資產(chǎn)化程度的評(píng)價(jià)指標(biāo),從規(guī)范、安全、成本、應(yīng)用等角度設(shè)計(jì)此評(píng)價(jià)體系,持續(xù)驅(qū)動(dòng)存量和新增數(shù)據(jù)的治理。
解法4:從上游提前規(guī)避數(shù)據(jù)質(zhì)量問題。在上游開發(fā)階段充分進(jìn)行數(shù)據(jù)測(cè)試,核心節(jié)點(diǎn)出現(xiàn)問題時(shí)能阻斷下游傳播,防止對(duì)下游數(shù)據(jù)的污染。對(duì)于報(bào)表延遲風(fēng)險(xiǎn),在上游出現(xiàn)變慢或失敗等突發(fā)狀況時(shí),評(píng)估下游的一些核心保障節(jié)點(diǎn)是否有延遲風(fēng)險(xiǎn)。
解法5:將軟件工程領(lǐng)域有效的經(jīng)驗(yàn)進(jìn)行轉(zhuǎn)換吸收應(yīng)用到數(shù)據(jù)工程領(lǐng)域。比如 DataOps 是從敏捷、Devops、精益制造吸收的靈感。通過落地 DataOps 可以提升整體協(xié)同效率,保障數(shù)據(jù)質(zhì)量,減少開發(fā)工作量。
按照“組合創(chuàng)新&錯(cuò)位競(jìng)爭(zhēng)”的思路,將解決用戶需求的方向,從數(shù)據(jù)資產(chǎn)管理平臺(tái),最終轉(zhuǎn)向成了打造一站式數(shù)據(jù)資產(chǎn)開發(fā)平臺(tái)(資產(chǎn)工場(chǎng)),把管理過程前置到開發(fā),借鑒軟件工程思想,目標(biāo)群體也更專注在數(shù)倉(cāng)工程師、而不是所有的數(shù)據(jù)研發(fā)。
三、騰訊歐拉資產(chǎn)工場(chǎng)實(shí)踐
接下來介紹騰訊歐拉資產(chǎn)工場(chǎng)的落地實(shí)踐。
騰訊歐拉資產(chǎn)工場(chǎng)是基于 DataOps 的一站式數(shù)據(jù)開發(fā)平臺(tái)。通過提前制定流程規(guī)范、設(shè)定數(shù)倉(cāng)配置,大大增強(qiáng)了整個(gè)數(shù)據(jù)倉(cāng)庫(kù)的規(guī)范性,并同時(shí)兼顧開發(fā)效率。
功能矩陣如下圖所示:
首先是數(shù)據(jù)規(guī)劃。對(duì)包括業(yè)務(wù)域、主題域在內(nèi)的數(shù)倉(cāng)架構(gòu)進(jìn)行設(shè)計(jì),對(duì) Hive 以外的數(shù)據(jù)源進(jìn)行統(tǒng)一管理。
第二是數(shù)據(jù)開發(fā)。開發(fā)階段支持表與任務(wù)同時(shí)開發(fā),提供豐富的數(shù)據(jù)同步組件與上下游外部數(shù)據(jù)進(jìn)行對(duì)接,還擁有智能解析依賴的能力。
第三是數(shù)據(jù)調(diào)試與發(fā)布。提供測(cè)試模式這樣的方式隔離線上環(huán)境,在發(fā)布階段走代碼評(píng)審,在發(fā)布上線時(shí)同時(shí)發(fā)布到任務(wù)調(diào)度平臺(tái)以及 GIT 代碼倉(cāng)庫(kù)。
最后是數(shù)據(jù)運(yùn)維與質(zhì)量。數(shù)據(jù)上線后,提供運(yùn)維大盤、DAG 圖等功能對(duì)數(shù)據(jù)運(yùn)維提供基線預(yù)警與質(zhì)量監(jiān)控等功能,從而觀測(cè)和提升整個(gè)數(shù)據(jù)倉(cāng)庫(kù)的健康狀況。
在敏捷、標(biāo)準(zhǔn)化、自動(dòng)化程度高的數(shù)據(jù)開發(fā)流程下,
- 角色得到進(jìn)一步細(xì)分。比如有數(shù)據(jù)規(guī)劃者由此能夠把數(shù)據(jù)當(dāng)作產(chǎn)品一樣進(jìn)行精益化生產(chǎn),從而構(gòu)建規(guī)范、更高質(zhì)量的數(shù)據(jù)倉(cāng)庫(kù),使得下游數(shù)據(jù)使用者更加滿意。
- 重點(diǎn)打磨數(shù)據(jù)開發(fā)面板。增強(qiáng)團(tuán)隊(duì)內(nèi)部協(xié)同效率,實(shí)現(xiàn)了配置化開發(fā);強(qiáng)化了數(shù)據(jù)版本控制,把所有影響生產(chǎn)的內(nèi)容,包括表結(jié)構(gòu)任務(wù)的代碼、調(diào)度配置、以及依賴了什么上游任務(wù)等等都當(dāng)作代碼,并對(duì)版本內(nèi)容進(jìn)行可視化;實(shí)現(xiàn)自動(dòng)化上線,發(fā)布后同時(shí)上線 Hive 集群、調(diào)度平臺(tái)和 Git 倉(cāng)庫(kù);構(gòu)建出正式環(huán)境與測(cè)試環(huán)境的簡(jiǎn)單隔離,智能解析上游依賴,自動(dòng)抓取 Python 中的 SQL 等自動(dòng)化能力。
- 隨著時(shí)間的推移,業(yè)務(wù)數(shù)倉(cāng)規(guī)模不斷膨脹,運(yùn)維壓力加大,采取分層保障來提升數(shù)據(jù)質(zhì)量,降低運(yùn)維起夜率。對(duì)于大部分日常任務(wù)數(shù)據(jù)可以自動(dòng)監(jiān)控,保證基本正常運(yùn)維。對(duì)于重點(diǎn)數(shù)據(jù)的內(nèi)容進(jìn)行質(zhì)量監(jiān)控,必要時(shí)設(shè)定強(qiáng)規(guī)則,在告警后可以阻斷下游執(zhí)行,避免污染下游更多數(shù)據(jù)。對(duì)更核心的數(shù)據(jù),還提供及時(shí)性方面的基線保障,支持追蹤監(jiān)控整個(gè)上游任務(wù)鏈路,提前預(yù)測(cè)產(chǎn)出延遲風(fēng)險(xiǎn)。
- 除了平臺(tái)上的設(shè)計(jì)落地外,還搭配與資產(chǎn)工場(chǎng)相關(guān)的課程體系。比如在數(shù)據(jù)工程職位上開設(shè)了《DataOps》,《SQL 代碼規(guī)范》,《數(shù)倉(cāng)設(shè)計(jì)》還有《數(shù)據(jù)測(cè)試》等四門必修課。策略產(chǎn)品職位則開設(shè)了《SQL 實(shí)操應(yīng)用》,從而使提數(shù)據(jù)需求的產(chǎn)品經(jīng)理對(duì)數(shù)倉(cāng)和 SQL 的認(rèn)識(shí)更深刻,從而方便他與 DE/DS 更好地溝通。通過這些課程,提升用戶對(duì)資產(chǎn)工場(chǎng)的使用效果。
意識(shí)、平臺(tái)工具、組織保障等多方面的疊加,使得在各個(gè)業(yè)務(wù)線實(shí)現(xiàn)了生產(chǎn)及治理的效果。生產(chǎn)前,通過規(guī)范標(biāo)準(zhǔn)來系統(tǒng)化預(yù)約束,增強(qiáng)數(shù)倉(cāng)整體規(guī)范性。生產(chǎn)中,通過數(shù)倉(cāng)屬性和業(yè)務(wù)元數(shù)據(jù)的登記,增強(qiáng)數(shù)據(jù)可理解性。生產(chǎn)后,關(guān)注數(shù)倉(cāng)的質(zhì)量和即時(shí)性,提升數(shù)據(jù)內(nèi)容質(zhì)量和任務(wù)產(chǎn)出時(shí)效。最后將數(shù)據(jù)在各種數(shù)據(jù)應(yīng)用中進(jìn)行呈現(xiàn),發(fā)揮數(shù)據(jù)的價(jià)值。
在落地整套方案的過程中,一站式的功能的不斷補(bǔ)齊,在具體應(yīng)用場(chǎng)景上也下了不少功夫,從某種程度上來說降低了數(shù)據(jù)開發(fā)的門檻,使得潛在客戶群體不斷擴(kuò)大,目前非DE的用戶占比達(dá)到 1/3。
四、數(shù)據(jù)平臺(tái)產(chǎn)品方法論
1、平臺(tái)創(chuàng)新方法論
無(wú)論是從 0 到 1 做一個(gè)新的平臺(tái),還是對(duì)已有平臺(tái)進(jìn)行自我革命,作為產(chǎn)品經(jīng)理首先要關(guān)注行業(yè)前沿,與研發(fā)、技術(shù)用戶始終保持在基本相同的技術(shù)認(rèn)知上,才有可能一起找到一個(gè)新興技術(shù)方向,沿著方向做強(qiáng),打造出新的核心競(jìng)爭(zhēng)力。
在設(shè)計(jì)方案時(shí),要嘗試把要素拆解得足夠細(xì),例如從需求角度重新理解當(dāng)下的平臺(tái)已經(jīng)提供了哪些功能,把這些功能及用戶需求拆解得足夠細(xì),再進(jìn)行有機(jī)組合,達(dá)到人無(wú)我有,人有我優(yōu)的境地。找準(zhǔn)一個(gè)方向,著力于打造一個(gè)核心競(jìng)爭(zhēng)力,錯(cuò)位競(jìng)爭(zhēng)。比如我們找準(zhǔn)了 DE 這一方向,在數(shù)倉(cāng)領(lǐng)域做大做強(qiáng)。在一開始功能的質(zhì)量比用戶規(guī)模更重要。另外,做平臺(tái)不是做工具,功能不能靠簡(jiǎn)單的堆疊,而是有機(jī)地進(jìn)行整合。
2、規(guī)范和效率如何兼顧?
首先,可以在日常大功能需求的迭代中,插入一些小而美的需求,這些需求可能是日常不斷和用戶溝通反饋收集而來的。這些需求還需要足夠通用,才會(huì)有更多用戶受益。
另外,在規(guī)范上約束用戶行為時(shí),需要考慮是否已提供給用戶足夠多的輔助工具。比如強(qiáng)制代碼評(píng)審,那么需要考慮代碼的對(duì)比能力是否將改動(dòng)前后的差異清晰呈現(xiàn),從而加速整個(gè) CR 流程提高整個(gè)開發(fā)效率。
3、目標(biāo)驅(qū)動(dòng)
平臺(tái)的驅(qū)動(dòng)力:首先定義幾個(gè)核心目標(biāo),然后考慮如何度量。平臺(tái)對(duì)效率的提升起初沒有找到很好的辦法直接定量度量,但用戶可以直觀感受到。我們可以從用戶規(guī)模、用戶留存對(duì)效率進(jìn)行定性,反映出平臺(tái)的吸引力。對(duì)于剛接入的新用戶可以詢問原因,提煉吸引點(diǎn)來拉動(dòng)更多新用戶。
用戶的驅(qū)動(dòng)力:一為推力驅(qū)動(dòng),通過拉通各個(gè)業(yè)務(wù)團(tuán)隊(duì)共同制定一個(gè)評(píng)價(jià)機(jī)制,來評(píng)價(jià)整個(gè)資產(chǎn)化過程,形成平臺(tái)分資產(chǎn)分評(píng)價(jià)體系。如果有規(guī)則沒有達(dá)標(biāo),則會(huì)呈現(xiàn)為待治理狀態(tài)。二為拉力驅(qū)動(dòng),把一些工作成果直觀地統(tǒng)計(jì)出來,例如近 7 天開發(fā)了多少表、處理了多少任務(wù)異常情況等等,對(duì)用戶進(jìn)行激勵(lì)。
4、用戶運(yùn)營(yíng)層面講究策略
首先,用戶運(yùn)營(yíng)需要與業(yè)務(wù)同學(xué)建立有效連接,可以搭建一套數(shù)倉(cāng)對(duì)用戶進(jìn)行細(xì)粒度分析,通過對(duì)用戶的分析來充分了解用戶。用自己的平臺(tái)搭建數(shù)倉(cāng),也能從用戶角度思考平臺(tái)還有什么不完善的地方。第二,與用戶溝通時(shí),要建立信任感,做到事事有回音。第三,抓住比較主動(dòng)的新用戶,耐心地與用戶溝通,解答平臺(tái)內(nèi)部一些細(xì)節(jié)問題,使得新用戶認(rèn)可平臺(tái),從而帶他們整個(gè)團(tuán)隊(duì)更多人來使用。最后,運(yùn)營(yíng)要有節(jié)奏感,合適的產(chǎn)品推薦給合適的用戶。此外,平臺(tái)的 PRD 方案可以拉上一些用戶進(jìn)行預(yù)評(píng)審,在實(shí)際溝通中我會(huì)發(fā)現(xiàn)用戶非常樂于參與到方案的制定當(dāng)中。
5、個(gè)人產(chǎn)品力的提升
首先多實(shí)踐,在實(shí)踐中思考。通過數(shù)據(jù)分析、研究競(jìng)品、研究用戶和自己的直覺來發(fā)現(xiàn)問題。提出問題,界定要解決的問題邊界,論證問題的一些限制條件,問題解決后會(huì)有怎樣的價(jià)值。運(yùn)用產(chǎn)品工具來解決問題,把功能上線后,定期對(duì)平臺(tái)運(yùn)行情況復(fù)盤。多看成功案例實(shí)踐,有些看似有用的功能通過數(shù)據(jù)監(jiān)控發(fā)現(xiàn)用戶量非常少,需要多反思。最后,從微觀到宏觀、從局部到整體多思考。另外,最重要的一點(diǎn)的是,熱愛自己所負(fù)責(zé)的事情,這是做好它的動(dòng)力源泉。
五、問答環(huán)節(jié)
Q1:數(shù)據(jù)模型如何迭代?市面上有什么工具可以使用?
A1:數(shù)倉(cāng)工程師應(yīng)該更適合來回答這個(gè)問題。我對(duì)于該問題的理解是,首先在做一套生產(chǎn)及治理流程時(shí),很多業(yè)務(wù)團(tuán)隊(duì)會(huì)趁機(jī)復(fù)盤整個(gè)數(shù)據(jù)倉(cāng)庫(kù)存在的問題,重新對(duì)數(shù)倉(cāng)的主題域、業(yè)務(wù)域劃分,制定標(biāo)準(zhǔn)。舊的數(shù)倉(cāng)中核心根據(jù)數(shù)據(jù)這套標(biāo)準(zhǔn)直接掛到更合適的業(yè)務(wù)域或主題域節(jié)點(diǎn)上,本身設(shè)計(jì)不合理的數(shù)據(jù)表進(jìn)行重新設(shè)計(jì),達(dá)到對(duì)整個(gè)數(shù)倉(cāng)模型的迭代目的。其次,我們會(huì)通過資產(chǎn)分的度量方式關(guān)注數(shù)倉(cāng)內(nèi)部整體的狀況,給數(shù)據(jù)模型迭代提供指導(dǎo)。:
Q2:您提到的治理方法的基本歸納為先定規(guī)范再按規(guī)范執(zhí)行,對(duì)于介入治理時(shí)已經(jīng)存在的質(zhì)量問題如何處理?
A2:如果重新定義一套新的數(shù)倉(cāng)規(guī)范,舊表會(huì)產(chǎn)生沖突,因此導(dǎo)入的時(shí)候提供選分層,業(yè)務(wù)域、主題域直接掛載上去,不對(duì)表名重新命名,因?yàn)橄掠我呀?jīng)很多任務(wù)在使用。
Q3:查詢引擎從 Hive 切換到了 Presto 效率提升了,但成品也是呈量級(jí)增長(zhǎng),這是否真的產(chǎn)生了價(jià)值?
A3:關(guān)于成本這一塊,我們后面打造出一個(gè)治理引擎的模塊,把日常開發(fā)的表建立的任務(wù)以及查詢記錄的具體成本明細(xì)通過各種方法統(tǒng)計(jì)出來,幫助用戶結(jié)合自身考慮是否要優(yōu)化使用。
Q4:日常經(jīng)常用到的表或數(shù)據(jù)只占業(yè)務(wù)所有數(shù)據(jù)量的 10% 以內(nèi),有些業(yè)務(wù)數(shù)據(jù)因?yàn)闃I(yè)務(wù)邏輯變更已經(jīng)失效,這方面在治理上有什么辦法?
A4:由于每個(gè)人的精力有限,通過像基線監(jiān)控,阻斷的這些能力應(yīng)用在核心數(shù)據(jù)上,相當(dāng)于對(duì)數(shù)據(jù)的重要程度打上標(biāo)記,在運(yùn)維的模塊會(huì)看到整個(gè)基建的安全產(chǎn)出率,即核心數(shù)據(jù)產(chǎn)出狀況,針對(duì)這些數(shù)據(jù)來更好的治理。
Q5:軟件工程思想的核心及工作中帶來的幫助有哪些?
A5:軟件工程領(lǐng)域有整體像 DevOps 流程的,應(yīng)用在 DataOps 領(lǐng)域希望整個(gè)環(huán)節(jié)從規(guī)劃生產(chǎn)到交付,有一些自動(dòng)化的處理,另外更希望有一些協(xié)同的能力,比如有公共 python 的管理,可以在 python sql 開發(fā)時(shí)通過公共 python 進(jìn)行代碼復(fù)用,提升協(xié)同效率。另外軟件工程注重整體的質(zhì)量,在數(shù)據(jù)工程領(lǐng)域利用落地一些數(shù)據(jù),測(cè)試數(shù)據(jù)質(zhì)量來提升整體質(zhì)量。
Q6:政務(wù)相關(guān)的業(yè)務(wù)相對(duì)成熟,有必要建數(shù)據(jù)平臺(tái)嗎?
A6:我們分析用戶需求,了解業(yè)務(wù)里面的數(shù)據(jù)平臺(tái)工具是否已經(jīng)解決這些問題,沒有解決的話嘗試能否在已有的系統(tǒng)上重新把功能,比如通過 API 的方式重新組合,代價(jià)會(huì)相對(duì)比較小。