一實施數(shù)據(jù)治理項目的原因
企業(yè)實施數(shù)據(jù)治理項目的原因是多樣化的,筆者根據(jù)目前國內(nèi)企業(yè)數(shù)據(jù)治理現(xiàn)狀歸納總結(jié)了一下,原因主要體現(xiàn)在以下三個方面:數(shù)據(jù)質(zhì)量方面、數(shù)據(jù)應(yīng)用方面及其它方面。
1
數(shù)據(jù)質(zhì)量方面
1)數(shù)據(jù)不一致
企業(yè)早期沒有進行統(tǒng)一規(guī)劃設(shè)計,大部分信息系統(tǒng)是逐步迭代建設(shè)的,系統(tǒng)建設(shè)時間長短各異,各系統(tǒng)數(shù)據(jù)標(biāo)準(zhǔn)也不同。企業(yè)業(yè)務(wù)系統(tǒng)更關(guān)注業(yè)務(wù)層面,各個業(yè)務(wù)系統(tǒng)均有不同的側(cè)重點,各類數(shù)據(jù)的屬性信息設(shè)置和要求不統(tǒng)一。另外,由于各系統(tǒng)的相互獨立使用,無法及時同步更新相關(guān)信息等各種原因造成各系統(tǒng)間的數(shù)據(jù)不一致,嚴重影響了各系統(tǒng)間的數(shù)據(jù)交互和統(tǒng)一識別,基礎(chǔ)數(shù)據(jù)難以共享利用,數(shù)據(jù)的深層價值也難以體現(xiàn)。
2)數(shù)據(jù)不完整
由于企業(yè)信息系統(tǒng)的孤立使用,各個業(yè)務(wù)系統(tǒng)或模塊按照各自的需要錄入數(shù)據(jù),沒有統(tǒng)一的錄入工具和數(shù)據(jù)出口,業(yè)務(wù)系統(tǒng)不需要的信息就不錄,造成同樣的數(shù)據(jù)在不同的系統(tǒng)有不同的屬性信息,數(shù)據(jù)完整性無法得到保障。
3)數(shù)據(jù)不合規(guī)
沒有統(tǒng)一的數(shù)據(jù)管理平臺和數(shù)據(jù)源頭,數(shù)據(jù)全生命周期管理不完整,同時企業(yè)各信息系統(tǒng)的數(shù)據(jù)錄入環(huán)節(jié)過于簡單且手工參與較多,就數(shù)據(jù)本身而言,缺少是否重復(fù)、合法、對錯等校驗環(huán)節(jié),導(dǎo)致各個信息系統(tǒng)的數(shù)據(jù)不夠準(zhǔn)確,格式混亂,各類數(shù)據(jù)難以集成和統(tǒng)一,沒有質(zhì)量控制導(dǎo)致海量數(shù)據(jù)因質(zhì)量過低而難以被利用,且沒有相應(yīng)的數(shù)據(jù)管理流程。
4)數(shù)據(jù)不可控
海量數(shù)據(jù)多頭管理,缺少專門對數(shù)據(jù)管理進行監(jiān)督和控制的組織。企業(yè)各單位和部門關(guān)注數(shù)據(jù)的角度不一樣,缺少一個組織從全局的視角對數(shù)據(jù)進行管理,導(dǎo)致無法建立統(tǒng)一的數(shù)據(jù)管理標(biāo)準(zhǔn)、流程等,相應(yīng)的數(shù)據(jù)管理制度、辦法等無法得到落實。同時,企業(yè)基礎(chǔ)數(shù)據(jù)質(zhì)量考核體系也尚未建立,無法保障一系列數(shù)據(jù)標(biāo)準(zhǔn)、規(guī)范、制度、流程得到長效執(zhí)行。
5)數(shù)據(jù)冗余
各個信息系統(tǒng)針對數(shù)據(jù)的標(biāo)準(zhǔn)規(guī)范不一、編碼規(guī)則不一、校驗標(biāo)準(zhǔn)不一,且部分業(yè)務(wù)系統(tǒng)針對數(shù)據(jù)的驗證標(biāo)準(zhǔn)嚴重缺失,造成了企業(yè)頂層視角的數(shù)據(jù)出現(xiàn)“一物多碼”、“一碼多物”等現(xiàn)象。
2
數(shù)據(jù)應(yīng)用方面
企業(yè)信息化建設(shè)到了一定程度,開始對數(shù)據(jù)進行相關(guān)的展示、分析、應(yīng)用等,進一步提高數(shù)據(jù)對企業(yè)統(tǒng)計分析和決策支持的力度,但是由于前期沒有進行頂層設(shè)計,在大量業(yè)務(wù)系統(tǒng)建設(shè)過程中沒有同步進行數(shù)據(jù)治理,出現(xiàn)許多上述數(shù)據(jù)問題,導(dǎo)致數(shù)據(jù)質(zhì)量不高,數(shù)據(jù)分析結(jié)果不準(zhǔn),數(shù)據(jù)應(yīng)用效果不佳,無法為企業(yè)的高效經(jīng)營管理提供數(shù)據(jù)支撐,此時企業(yè)考慮啟動數(shù)據(jù)治理項目了。
企業(yè)用戶即使知道自己業(yè)務(wù)所需要的是哪些數(shù)據(jù),也不能便捷、自助、及時的獲取數(shù)據(jù),相反,由于沒有統(tǒng)一的專業(yè)數(shù)據(jù)管理平臺,獲取數(shù)據(jù)需要導(dǎo)出、梳理、校驗、排重、核對等漫長的過程,導(dǎo)致業(yè)務(wù)分析的需求難以被快速滿足,而在當(dāng)今大數(shù)據(jù)時代,業(yè)務(wù)追求的是針對某個業(yè)務(wù)問題的快速分析,這樣漫長的需求響應(yīng)時間是難以滿足業(yè)務(wù)需求的。
筆者見過很多大中型企業(yè)實施了商業(yè)智能(BI),即運用數(shù)據(jù)倉庫技術(shù)、線上分析處理技術(shù)、數(shù)據(jù)挖掘和數(shù)據(jù)展現(xiàn)技術(shù)進行數(shù)據(jù)分析以實現(xiàn)商業(yè)價值。而往往這些企業(yè)非常重視數(shù)據(jù)治理工作,因為數(shù)據(jù)治理、元數(shù)據(jù)管理及其中的數(shù)據(jù)標(biāo)準(zhǔn)化是實現(xiàn)商業(yè)智能的重要環(huán)節(jié),如果數(shù)據(jù)不一致、數(shù)據(jù)質(zhì)量達不到要求,是無法進行數(shù)據(jù)集成和整合的,也就無法進行數(shù)據(jù)分析和數(shù)據(jù)挖掘,更談不上商業(yè)智能了,數(shù)據(jù)治理的重要性可見一斑。
3
其它方面
1)咨詢規(guī)劃
企業(yè)在開展信息化頂層規(guī)劃設(shè)計時,咨詢廠商會提出系統(tǒng)架構(gòu)和數(shù)據(jù)架構(gòu)等方面的建設(shè)內(nèi)容,數(shù)據(jù)架構(gòu)需求的提出預(yù)示著企業(yè)數(shù)據(jù)標(biāo)準(zhǔn)化落地專業(yè)數(shù)據(jù)管理平臺的訴求應(yīng)運而生,完成咨詢規(guī)劃設(shè)計后,可以啟動數(shù)據(jù)治理項目了。
2)二次治理
有的企業(yè)在早期就已開展了數(shù)據(jù)治理工作,甚至也建設(shè)了專業(yè)的數(shù)據(jù)管理平臺,但是隨著時間的推移,各個系統(tǒng)間的交互越來越緊密,還是發(fā)現(xiàn)了大量的數(shù)據(jù)質(zhì)量問題,借助目前的系統(tǒng)和手段無法得到明顯改善,于是企業(yè)再次啟動數(shù)據(jù)治理項目,進行二次治理。這種情況下,筆者建議企業(yè)應(yīng)首先找出數(shù)據(jù)質(zhì)量不高的原因所在,是管理平臺功能不完善,或是數(shù)據(jù)標(biāo)準(zhǔn)執(zhí)行不到位,或是數(shù)據(jù)運維體系不健全等,應(yīng)從多個維度去全面評估,為后續(xù)的二次治理做好鋪墊。
3)被動治理
受到上層集團領(lǐng)導(dǎo)、政府部門相關(guān)管理要求或是“大數(shù)據(jù)”“物聯(lián)網(wǎng)”“人工智能”等前沿IT技術(shù)大環(huán)境的影響,企業(yè)被動開展數(shù)據(jù)治理工作。此時,作為企業(yè)來講,應(yīng)該冷靜慎重,杜絕敷衍了事。筆者建議企業(yè)應(yīng)從內(nèi)部管理和業(yè)務(wù)發(fā)展的角度出發(fā)重新審視數(shù)據(jù)治理的重要性,數(shù)據(jù)治理不是簡單的一蹴而就,應(yīng)著重考慮數(shù)據(jù)治理成果的長效性和數(shù)據(jù)質(zhì)量的持久性。
二先上業(yè)務(wù)系統(tǒng)再進行數(shù)據(jù)治理的弊端
有的企業(yè)由于各種各樣的原因,沒有先行開展數(shù)據(jù)治理相關(guān)方面的工作,而是直接啟動建設(shè)核心業(yè)務(wù)系統(tǒng)(如ERP、MES、PLM、SCM、CRM等),隨著企業(yè)的逐漸發(fā)展,業(yè)務(wù)系統(tǒng)越來越臃腫,周邊IT系統(tǒng)逐漸增多,集成邏輯愈發(fā)復(fù)雜,就會出現(xiàn)上文提到的各種數(shù)據(jù)問題,無法為現(xiàn)代企業(yè)數(shù)字化轉(zhuǎn)型提供有力支撐。以ERP系統(tǒng)為例,先上業(yè)務(wù)系統(tǒng)再進行數(shù)據(jù)治理的弊端主要體現(xiàn)在以下幾個方面。
核心業(yè)務(wù)系統(tǒng)實施時更多的是考慮業(yè)務(wù)的實現(xiàn),忽略了數(shù)據(jù)本身的標(biāo)準(zhǔn)性和合規(guī)性,由于對基礎(chǔ)數(shù)據(jù)治理的片面性和特定性認識,導(dǎo)致數(shù)據(jù)治理不徹底,產(chǎn)生很多“臟數(shù)據(jù)”,重碼現(xiàn)象嚴重,一旦這些數(shù)據(jù)直接進入業(yè)務(wù)系統(tǒng),隨著系統(tǒng)應(yīng)用逐漸深入,范圍逐步擴大,對企業(yè)經(jīng)營管理的影響也會越來越大。比如物資編碼不規(guī)范,就會出現(xiàn)采購訂單錄入時不知該選哪個編碼,倉庫盤點出現(xiàn)賬實不一、統(tǒng)計報表不準(zhǔn)確等情況,業(yè)務(wù)系統(tǒng)的使用效果大打折扣。如果此時進行數(shù)據(jù)治理,一方面,由于基礎(chǔ)數(shù)據(jù)牽扯的范圍比較廣,數(shù)據(jù)治理的工作量比較大,涉及企業(yè)的人、財、物管理,具有一定的風(fēng)險;另一方面,為保證數(shù)據(jù)治理的效果,需要企業(yè)投入大量的人力和資金。比如數(shù)據(jù)標(biāo)準(zhǔn)要重新制定、數(shù)據(jù)需要清洗、系統(tǒng)集成架構(gòu)和邏輯需要調(diào)整,筆者遇到很多企業(yè)多次反復(fù)使用“臟數(shù)據(jù)”,一物多碼、一碼多物的問題比較突出,導(dǎo)致后期數(shù)據(jù)清洗繁雜、難度大,以至于清洗周期一拖再拖,項目遲遲無法驗收。所以在核心業(yè)務(wù)系統(tǒng)實施前進行徹底的數(shù)據(jù)治理就可以避免上述問題,減少重復(fù)勞動,提升管理效率。
很多企業(yè)使用業(yè)務(wù)系統(tǒng)落地各類數(shù)據(jù)編碼的執(zhí)行,由于業(yè)務(wù)系統(tǒng)缺乏對數(shù)據(jù)生成的有效監(jiān)控、驗證等,導(dǎo)致數(shù)據(jù)生成過程處于失控狀態(tài)。有的業(yè)務(wù)系統(tǒng)上線運行前期制定了一些相關(guān)的管理制度和流程,但是長期的手工或非法執(zhí)行,還是會出現(xiàn)書寫錯誤、不規(guī)范等問題,最終導(dǎo)致重復(fù)編碼無法得到有效控制,各種問題數(shù)據(jù)越積越多,不利于企業(yè)業(yè)務(wù)的高效運作。
如果核心業(yè)務(wù)系統(tǒng)運行一段時間后再實施數(shù)據(jù)治理,其實相當(dāng)于重復(fù)一遍業(yè)務(wù)系統(tǒng)實施時的工作。此時需要重新規(guī)范數(shù)據(jù)標(biāo)準(zhǔn)并實現(xiàn)系統(tǒng)落地,重新進行數(shù)據(jù)清洗,重新搭建數(shù)據(jù)管理體系等,重復(fù)勞動,耗費資源。數(shù)據(jù)清洗后只能先實現(xiàn)重復(fù)數(shù)據(jù)的映射,然后逐步停用重復(fù)編碼,導(dǎo)致數(shù)據(jù)冗余無法短期內(nèi)消除,而且,需考慮對業(yè)務(wù)系統(tǒng)正常運行的影響。
三數(shù)據(jù)治理項目啟動的最佳時機
對于企業(yè)而言,有效的數(shù)據(jù)治理能推動IT部門和業(yè)務(wù)部門協(xié)作實現(xiàn)共同目標(biāo),促成企業(yè)各種業(yè)務(wù)功能的實現(xiàn),是成功企業(yè)的“法寶”。當(dāng)企業(yè)在數(shù)據(jù)管理方面存在上述問題,無法為高層領(lǐng)導(dǎo)分析決策提供基礎(chǔ)數(shù)據(jù)支撐時,開展數(shù)據(jù)治理已經(jīng)勢在必行,而選擇合適的時機啟動數(shù)據(jù)治理項目就顯得尤為重要。結(jié)合項目實施經(jīng)驗和標(biāo)桿案例分析,筆者認為企業(yè)在核心業(yè)務(wù)系統(tǒng)(如ERP、MES、PLM、SCM、CRM等)上線前實施數(shù)據(jù)治理項目效果最佳。
一般來說,初始化數(shù)據(jù)的整理、數(shù)據(jù)編碼及數(shù)據(jù)錄入是建立核心業(yè)務(wù)系統(tǒng)的難點之一,正確按各類數(shù)據(jù)的編碼原則進行編碼定義,是數(shù)據(jù)編碼具有唯一屬性的重要依據(jù)。同時,數(shù)據(jù)整理與編碼實施也是實現(xiàn)整個核心業(yè)務(wù)系統(tǒng)快捷運行的基礎(chǔ)。
核心業(yè)務(wù)系統(tǒng)上線運行前,往往會進行統(tǒng)一的數(shù)據(jù)初始化工作,即把系統(tǒng)需要的各類數(shù)據(jù)按照系統(tǒng)模板的要求導(dǎo)入系統(tǒng),保證系統(tǒng)的正常運行,支撐各項業(yè)務(wù)活動的開展。然而,在數(shù)據(jù)導(dǎo)入的過程中,經(jīng)常會出現(xiàn)諸如數(shù)據(jù)不規(guī)范、必填項缺失、重碼、非法取值等錯誤需要反復(fù)重新導(dǎo)入的情況,費時費力,增加人力成本,給業(yè)務(wù)系統(tǒng)的實施帶來一定的影響。
如果在核心業(yè)務(wù)系統(tǒng)上線前開展數(shù)據(jù)治理相關(guān)工作,對企業(yè)各類核心業(yè)務(wù)實體數(shù)據(jù)的數(shù)據(jù)標(biāo)準(zhǔn),編碼規(guī)則,數(shù)據(jù)模型,標(biāo)準(zhǔn)數(shù)據(jù)庫、數(shù)據(jù)管理制度、流程、工具等進行梳理和規(guī)范,實現(xiàn)企業(yè)內(nèi)標(biāo)準(zhǔn)統(tǒng)一、數(shù)據(jù)同源、規(guī)范共享,并通過系統(tǒng)集成接口自動傳輸?shù)胶诵臉I(yè)務(wù)系統(tǒng),可短期內(nèi)快速完成核心業(yè)務(wù)系統(tǒng)數(shù)據(jù)的初始化工作,縮短周期,提高效率,通過集成接口實現(xiàn)靈活的數(shù)據(jù)分發(fā)等操作,達到服務(wù)集中的目的,大大節(jié)省企業(yè)信息化建設(shè)投入成本。
舉例企業(yè)常見的物資編碼來說,核心業(yè)務(wù)系統(tǒng)實施廠商在對物資編碼進行梳理時往往從業(yè)務(wù)系統(tǒng)使用的角度出發(fā),比如常見的六角螺母,業(yè)務(wù)系統(tǒng)只需設(shè)置“名稱-強度等級-直徑”為編碼屬性即可,而數(shù)據(jù)治理項目的出發(fā)點是數(shù)據(jù)標(biāo)準(zhǔn)化,以及未來核心業(yè)務(wù)系統(tǒng)數(shù)據(jù)的應(yīng)用、分析、決策等。物資數(shù)據(jù)標(biāo)準(zhǔn)化從物資分類、編碼規(guī)則、描述模板、數(shù)據(jù)清洗、提報指南、維護細則、運維體系、管理制度等多個方面保證企業(yè)物資數(shù)據(jù)的準(zhǔn)確性、唯一性和完整性,為核心業(yè)務(wù)系統(tǒng)物資數(shù)據(jù)的深入應(yīng)用提供有力支撐。從物資數(shù)據(jù)標(biāo)準(zhǔn)化的維度分析,六角螺栓的描述模板如下表所示。
還是以ERP系統(tǒng)為例,系統(tǒng)上線前會對各類數(shù)據(jù)進行清洗,如物料、客戶、供應(yīng)商、銀行、會計科目等,數(shù)據(jù)清洗工作繁瑣、枯燥、量大,若僅僅靠人工識別整理清洗,數(shù)據(jù)質(zhì)量不高,清洗周期也難以把控,而且這些基礎(chǔ)數(shù)據(jù)進入ERP系統(tǒng)也會給后續(xù)的業(yè)務(wù)開展帶來一定的影響。如果借用數(shù)據(jù)治理平臺中專業(yè)的數(shù)據(jù)清洗工具來輔助開展清洗工作,可以實現(xiàn)清洗人員的合理分工,線上協(xié)作協(xié)同,減輕工作量,提高工作效率,在縮短周期的同時達到理想的數(shù)據(jù)清洗效果。清洗后,規(guī)范、標(biāo)準(zhǔn)、干凈的數(shù)據(jù)進入系統(tǒng)可以提高ERP系統(tǒng)的實施效果,便于基礎(chǔ)數(shù)據(jù)的統(tǒng)一管理和集中分發(fā),進一步加強企業(yè)經(jīng)營決策的數(shù)據(jù)支撐力度。另外,實施數(shù)據(jù)治理項目還可以節(jié)省ERP系統(tǒng)等的License數(shù)量,從而大幅節(jié)省企業(yè)資金的投入。
四如何實施數(shù)據(jù)治理項目
數(shù)據(jù)治理是一個復(fù)雜的系統(tǒng)工程,涉及到企業(yè)和單位多個領(lǐng)域,既要做好頂層設(shè)計,又要解決好統(tǒng)一標(biāo)準(zhǔn)、統(tǒng)一流程、統(tǒng)一管理體系等問題,同時也要解決好數(shù)據(jù)采集、數(shù)據(jù)清洗、數(shù)據(jù)對接和應(yīng)用集成等相關(guān)問題。
數(shù)據(jù)治理實施要點主要包含數(shù)據(jù)規(guī)劃、制定數(shù)據(jù)標(biāo)準(zhǔn)、整理數(shù)據(jù)、搭建數(shù)據(jù)管理工具、構(gòu)建運維體系及推廣貫標(biāo)六大部分,其中數(shù)據(jù)規(guī)劃是綱領(lǐng)、制定數(shù)據(jù)標(biāo)準(zhǔn)是基礎(chǔ)、整理數(shù)據(jù)是過程、搭建數(shù)據(jù)管理工具是技術(shù)手段、構(gòu)建運維體系是前提,推廣貫標(biāo)是持續(xù)保障。
首先運用方法論并結(jié)合企業(yè)實際情況,制定數(shù)據(jù)整體實施路線圖。然后確定數(shù)據(jù)范圍,與業(yè)務(wù)部門共同制定數(shù)據(jù)標(biāo)準(zhǔn),標(biāo)準(zhǔn)內(nèi)容包括確定分類規(guī)范、編碼結(jié)構(gòu)、數(shù)據(jù)模型、屬性描述等。標(biāo)準(zhǔn)制定后,按照數(shù)據(jù)標(biāo)準(zhǔn)進行數(shù)據(jù)檢查、數(shù)據(jù)排重、數(shù)據(jù)編碼、數(shù)據(jù)加載等,建立符合數(shù)據(jù)標(biāo)準(zhǔn)和規(guī)范的數(shù)據(jù)代碼庫。同時應(yīng)建設(shè)數(shù)據(jù)管理工具,為數(shù)據(jù)的管理提供技術(shù)支持,實現(xiàn)數(shù)據(jù)查詢、申請、修改、審核、發(fā)布、凍結(jié)、歸檔等全生命周期管理。同步建立數(shù)據(jù)管理和標(biāo)準(zhǔn)管理的運維組織、管理流程、考核機制等,保證數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范得到有效執(zhí)行。最后統(tǒng)一執(zhí)行數(shù)據(jù)標(biāo)準(zhǔn)規(guī)范,擴大數(shù)據(jù)標(biāo)準(zhǔn)的應(yīng)用范圍,實現(xiàn)信息系統(tǒng)間的互聯(lián)互通及共享利用。