本文來自twt企業(yè)IT社區(qū),作者/鄭金輝。
數(shù)據(jù)中臺(tái)增速驟降,企業(yè)也不再像囤積土地資源一樣囤積數(shù)據(jù),開始更多關(guān)注數(shù)據(jù)本身能夠帶來的價(jià)值。同時(shí),也開始更加關(guān)注基于數(shù)據(jù)中臺(tái)的數(shù)據(jù)治理應(yīng)該如何開展。在技術(shù)架構(gòu)上,數(shù)據(jù)治理始終都是數(shù)據(jù)中臺(tái)的重要組成部分,但是數(shù)據(jù)治理的成效始終都沒有發(fā)揮出來,原因何在?
一、市場(chǎng)在擴(kuò)大,但是趨于理智,價(jià)值導(dǎo)向更明顯
數(shù)據(jù)中臺(tái)是中國本土誕生的一個(gè)詞,從技術(shù)的角度來講,筆者個(gè)人認(rèn)為是對(duì)數(shù)據(jù)架構(gòu)和數(shù)據(jù)平臺(tái)的一個(gè)巨大貢獻(xiàn),快速拉近了高不可攀的數(shù)據(jù)技術(shù)與實(shí)際應(yīng)用的距離,讓數(shù)據(jù)在企業(yè)落地變得觸手可及。數(shù)據(jù)中臺(tái)顯然是近幾年的一個(gè)行業(yè)熱點(diǎn),幾乎所有有能力的客戶,都會(huì)場(chǎng)合套用數(shù)據(jù)中臺(tái)的概念來啟動(dòng)數(shù)據(jù)域建設(shè)或者改造,試圖打破信息壁壘和數(shù)據(jù)煙囪,實(shí)現(xiàn)數(shù)據(jù)資產(chǎn)的整合。在數(shù)據(jù)要素配置的政策加持下,數(shù)據(jù)中臺(tái)市場(chǎng)規(guī)模迅速擴(kuò)大。
最近看了一些數(shù)據(jù),數(shù)據(jù)中臺(tái)增長率從2019年的120%,降到了2022年的30%,再到預(yù)測(cè)的2023年的24%,雖然不同機(jī)構(gòu)對(duì)這一數(shù)字的解讀用了不同詞兒,有的叫增長趨于平穩(wěn),有的叫增速驟降,怎么說都對(duì),但其中的共識(shí)就是客戶開始變得比以前理智,不再糾結(jié)于過分追新求快,開始關(guān)注數(shù)據(jù)中臺(tái)的價(jià)值導(dǎo)向??蛻粢查_始更理智的看待數(shù)據(jù)要素,從一開始像囤積土地資源一樣囤積數(shù)據(jù),開始更多關(guān)注數(shù)據(jù)本身能夠帶來的價(jià)值。同時(shí),也開始更加關(guān)注基于數(shù)據(jù)中臺(tái)的數(shù)據(jù)治理應(yīng)該如何開展。
二、數(shù)據(jù)中臺(tái)與數(shù)據(jù)治理本就你中有我,我中有你
數(shù)據(jù)中臺(tái)的出現(xiàn)在客觀上對(duì)傳統(tǒng)數(shù)據(jù)治理的推進(jìn)造成了一定的影響,但是數(shù)據(jù)中臺(tái)從本質(zhì)上跟數(shù)據(jù)治理是相輔相成的關(guān)系。首先,數(shù)據(jù)中臺(tái)實(shí)現(xiàn)了數(shù)據(jù)資源的聚合和融通,承載了業(yè)務(wù)條線對(duì)數(shù)據(jù)的需求和期望,是企業(yè)切入數(shù)據(jù)域建設(shè)的重要途徑和抓手。企業(yè)通過數(shù)據(jù)中臺(tái)的建設(shè)和落地,比較容易在數(shù)據(jù)層面“找問題”、“強(qiáng)弱項(xiàng)”,有助于數(shù)據(jù)治理意識(shí)和體系的形成。數(shù)據(jù)中臺(tái)要想持續(xù)發(fā)揮價(jià)值,需要受數(shù)據(jù)治理體系的管理和約束,數(shù)據(jù)治理的持續(xù)運(yùn)行有助于進(jìn)一步加強(qiáng)和推動(dòng)數(shù)據(jù)服務(wù)能力建設(shè)。
雖然在技術(shù)架構(gòu)上,數(shù)據(jù)治理始終都是數(shù)據(jù)中臺(tái)的重要組成部分,但是數(shù)據(jù)治理的成效始終都沒有發(fā)揮出來。究其原因,問題應(yīng)該出在管理和組織上。
三、除了工具和平臺(tái),我們應(yīng)該怎么理解數(shù)據(jù)治理
1、統(tǒng)一思想
數(shù)據(jù)治理應(yīng)該成為企業(yè)數(shù)字化轉(zhuǎn)型戰(zhàn)略的一部分,針對(duì)不同情況和處境,盡快達(dá)成一致,形成統(tǒng)一的治理思想和戰(zhàn)略,并納入數(shù)字化戰(zhàn)略統(tǒng)一推進(jìn)。處在數(shù)字化轉(zhuǎn)型初期的,應(yīng)該采取管理先行制度為王的策略;處在數(shù)字化轉(zhuǎn)型中期的,應(yīng)該盡快建立數(shù)據(jù)治理平臺(tái)能力,建立全鏈路數(shù)據(jù)跟蹤監(jiān)測(cè)體系和數(shù)據(jù)質(zhì)量基線,快速發(fā)現(xiàn)問題,避免一亂一治的問題。
2、組織至上
數(shù)據(jù)治理始終都是一個(gè)以人為本的領(lǐng)域,數(shù)據(jù)治理的核心是人,不是系統(tǒng)。這個(gè)概念可能很多人不能接受,但事實(shí)就是這樣。平臺(tái)和工具只能代替人去處理一些重復(fù)性勞動(dòng),但是數(shù)據(jù)意識(shí)的養(yǎng)成、數(shù)據(jù)標(biāo)準(zhǔn)的建立、數(shù)據(jù)質(zhì)量體系的完善都需要靠人去推動(dòng)。所以,成立專門的組織就很重要,建立面向數(shù)據(jù)治理、數(shù)據(jù)運(yùn)維和數(shù)據(jù)運(yùn)營的專門團(tuán)隊(duì),確定團(tuán)隊(duì)和組織的地位和責(zé)權(quán)利,就變成了當(dāng)務(wù)之急。有時(shí)候組織的范圍不僅僅是本單位內(nèi)部,還會(huì)包括你的應(yīng)用開發(fā)商、服務(wù)商和供應(yīng)商。
3、模式適配
通常來講,數(shù)據(jù)治理的推進(jìn)模式有集中式、聯(lián)邦式和分布式。模式?jīng)]有好與壞的區(qū)別,適合的就是最好的。比如,對(duì)于管理能效高,自上而下推動(dòng)力強(qiáng)的企業(yè),顯然集中式是最佳的選擇。對(duì)于存在多源異構(gòu)數(shù)據(jù)的企業(yè),數(shù)據(jù)資源豐富、需要調(diào)動(dòng)不同業(yè)務(wù)條線的數(shù)據(jù)意識(shí)和積極性,聯(lián)邦制可能更適合。
4、建章立制
在以前的數(shù)據(jù)治理活動(dòng)中,很多大程度上規(guī)章制度是缺位的。數(shù)據(jù)治理往往以運(yùn)動(dòng)的方式出現(xiàn),“醒時(shí)同交歡,醉后各分散”,雷聲大雨點(diǎn)小,運(yùn)動(dòng)過后無人問津,一切都回歸原點(diǎn)。數(shù)據(jù)治理的建章立制的過程,也是“立法”的過程,需要明確數(shù)據(jù)的管理職責(zé)、管理流程,形成常態(tài)化治理機(jī)制,實(shí)現(xiàn)數(shù)據(jù)的“長治久安“。
四、數(shù)據(jù)治理的發(fā)展趨勢(shì)
從目前來看,數(shù)據(jù)治理的發(fā)展趨勢(shì),有很多方面已經(jīng)很明確了,比如數(shù)據(jù)治理與AI的結(jié)合、數(shù)據(jù)安全與數(shù)據(jù)治理的深度融合、數(shù)據(jù)價(jià)值呈現(xiàn)成為數(shù)據(jù)治理的關(guān)注焦點(diǎn)。以上思路毋庸多言,我想重點(diǎn)分享一下下面的觀點(diǎn):
1、業(yè)務(wù)牽引的精細(xì)化治理,成為趨勢(shì)
傳統(tǒng)大水漫灌式的數(shù)據(jù)治理方式,正在被業(yè)務(wù)場(chǎng)景聚焦的精細(xì)化方式取代,開始嘗試重點(diǎn)突破關(guān)鍵和核心業(yè)務(wù)場(chǎng)景,在局部和小范圍進(jìn)行推進(jìn),取得成效以后再進(jìn)行推廣。同時(shí),不同行業(yè)和領(lǐng)域?qū)?shù)據(jù)治理能力的需求迫切程度也不一樣,比如金融數(shù)據(jù)治理重點(diǎn)關(guān)注數(shù)據(jù)標(biāo)準(zhǔn)化,多源異構(gòu)數(shù)據(jù)較多和離線實(shí)時(shí)數(shù)據(jù)并行的場(chǎng)景更關(guān)注數(shù)據(jù)質(zhì)量監(jiān)測(cè),需要按照結(jié)合行業(yè)屬性和業(yè)務(wù)特點(diǎn)進(jìn)行有針對(duì)性的精細(xì)化治理,杜絕頭疼醫(yī)頭腳疼醫(yī)腳。
2、全鏈路數(shù)據(jù)跟蹤監(jiān)測(cè)體系和數(shù)據(jù)質(zhì)量基線需要持續(xù)關(guān)注
說起數(shù)據(jù)質(zhì)量監(jiān)測(cè),這正成為數(shù)據(jù)治理取得價(jià)值突破的重要抓手。面對(duì)大量多源異構(gòu)數(shù)據(jù)和不同業(yè)務(wù)場(chǎng)景下,離線和實(shí)施數(shù)據(jù)并存的情況,全鏈路數(shù)據(jù)跟蹤監(jiān)測(cè)體系顯得尤為重要,需要從數(shù)據(jù)源、數(shù)據(jù)模型到數(shù)據(jù)應(yīng)用的全鏈路監(jiān)控,監(jiān)控?cái)?shù)據(jù)調(diào)取、數(shù)據(jù)運(yùn)行狀態(tài)和數(shù)據(jù)質(zhì)量事件。同時(shí),我們需要及時(shí)構(gòu)建數(shù)據(jù)質(zhì)量運(yùn)維基線,根據(jù)任務(wù)要求建立合理的基線預(yù)警,對(duì)數(shù)據(jù)質(zhì)量問題早發(fā)現(xiàn)早處置。關(guān)注持續(xù)的任務(wù)關(guān)聯(lián)性和影響性分析(有點(diǎn)像業(yè)務(wù)連續(xù)性里面的業(yè)務(wù)影響性分析),基于全鏈路的數(shù)據(jù)血緣,梳理上下數(shù)據(jù)依賴關(guān)系,及時(shí)通報(bào)及時(shí)修復(fù)。
3、數(shù)據(jù)治理和數(shù)據(jù)平臺(tái)一體化建設(shè)
數(shù)據(jù)治理體系和數(shù)據(jù)平臺(tái)建設(shè),往往沒辦法依照“發(fā)現(xiàn)問題、分析問題、解決問題”的路徑去落地,會(huì)受很多問題的制約和限制。解決數(shù)據(jù)問題,通常有兩個(gè)思路:
一是一是從平臺(tái)架構(gòu)、技術(shù)方面思考解決方法。這個(gè)方向就是數(shù)據(jù)中臺(tái),數(shù)據(jù)中臺(tái)中的“一切業(yè)務(wù)數(shù)據(jù)化、一切數(shù)據(jù)業(yè)務(wù)化”的思想,體現(xiàn)出來的數(shù)據(jù)資產(chǎn)化、元數(shù)據(jù)管理等等跟數(shù)據(jù)治理思想一致。二是通過數(shù)據(jù)治理解決問題。在這個(gè)方向上,數(shù)據(jù)治理從數(shù)據(jù)資源目錄梳理、數(shù)據(jù)標(biāo)準(zhǔn)建立開始,逐步推動(dòng)數(shù)據(jù)資源服務(wù)和數(shù)據(jù)能力服務(wù)兩大板塊。
因此,數(shù)據(jù)平臺(tái)建設(shè)與數(shù)據(jù)治理正在深度融合,按照一體化建設(shè)的思路向縱深發(fā)展。
4、DataOps數(shù)據(jù)開發(fā)治理一體化
近幾年,DataOps數(shù)據(jù)開發(fā)治理一體化在業(yè)界非常受歡迎。部分?jǐn)?shù)字化轉(zhuǎn)型較早、數(shù)據(jù)資源條件優(yōu)厚的企業(yè),借鑒傳統(tǒng)DevOps的理念,將原本分散的數(shù)據(jù)治理、管理、開發(fā)和應(yīng)用等環(huán)節(jié)打通,形成一個(gè)無縫銜接的大閉環(huán),去破解企業(yè)在數(shù)據(jù)應(yīng)用中的難題。
究竟什么是DataOps,在現(xiàn)在階段不太好定義。維基百科對(duì)DataOps的定義是一種面向流程的自動(dòng)化方法,由分析和數(shù)據(jù)團(tuán)隊(duì)使用,旨在提高數(shù)據(jù)分析的質(zhì)量并縮短數(shù)據(jù)分析的周期,簡(jiǎn)而言之,就是提供一整套工具和方法論,讓數(shù)據(jù)應(yīng)用的開發(fā)和管理更加高效。顯然,這個(gè)定義有點(diǎn)籠統(tǒng)又不明確。
我們一般理解,DataOps的目標(biāo)是為了使數(shù)據(jù)資源和數(shù)據(jù)應(yīng)用的開發(fā)變得更加有序和可控,實(shí)現(xiàn)組件和能力重用以及過程自動(dòng)化,實(shí)現(xiàn)面向用戶的自助式數(shù)據(jù)分析。DataOps在數(shù)據(jù)開發(fā)運(yùn)營體系化方面,可以作為數(shù)據(jù)中臺(tái)建設(shè)必須參考的一個(gè)方法論。DataOps強(qiáng)調(diào)的是數(shù)據(jù)應(yīng)用的開發(fā)和運(yùn)維效率,就像DevOps一樣,DataOps希望通過提供一整套工具和方法論,來讓數(shù)據(jù)應(yīng)用的開發(fā)和管理更加高效。
如果說數(shù)據(jù)中臺(tái)是數(shù)據(jù)戰(zhàn)略層面的,筆者理解DataOps就是戰(zhàn)術(shù)層面的。