從技術(shù)角度談數(shù)據(jù)治理的實(shí)現(xiàn)

????????數(shù)據(jù)治理,作為企業(yè)數(shù)據(jù)管理的一部分,治理程度,直接影響企業(yè)數(shù)據(jù)資產(chǎn)業(yè)務(wù)價(jià)值的實(shí)現(xiàn)

? ? ? ? 一個(gè)企業(yè)的數(shù)據(jù)治理應(yīng)該以數(shù)據(jù)質(zhì)量為核心、數(shù)據(jù)標(biāo)準(zhǔn)為基礎(chǔ)、數(shù)據(jù)治理機(jī)制為支撐;


????????何為數(shù)據(jù)治理,簡而言之,“數(shù)據(jù)”的“治”與“理”。“治”為整治,關(guān)注數(shù)據(jù)質(zhì)量,保障數(shù)據(jù)穩(wěn)定性、準(zhǔn)確性,合理控制數(shù)據(jù)生命周期,降低成本;“理”為梳理和管理,數(shù)據(jù)的基本信息、狀態(tài)、關(guān)聯(lián)關(guān)系等,搞清數(shù)據(jù)從哪來到哪去到何處等。

????????從中剖析,一個(gè)數(shù)據(jù)治理架構(gòu),從it設(shè)計(jì)角度,應(yīng)該

????????1、數(shù)據(jù)質(zhì)量管理模塊、

????????2、數(shù)據(jù)生命周期模塊、

????????3、元數(shù)據(jù)管理模塊(數(shù)據(jù)血緣)、

????????4、數(shù)據(jù)安全模塊、

????????5、數(shù)據(jù)架構(gòu)管理模塊

????????6、數(shù)據(jù)標(biāo)準(zhǔn)管理模塊(以上的基礎(chǔ)為數(shù)據(jù)標(biāo)準(zhǔn),也是最重要的)

其中各個(gè)模塊詳細(xì)設(shè)計(jì)如下

一、數(shù)據(jù)質(zhì)量管理

????????對所存儲(chǔ)數(shù)據(jù)的規(guī)范性、準(zhǔn)確性、一致性、完整性、時(shí)效性進(jìn)行持續(xù)監(jiān)控和評(píng)估;其管理的關(guān)鍵內(nèi)容對具體的數(shù)據(jù)元素指定的若干數(shù)據(jù)質(zhì)量檢核規(guī)則。并且數(shù)據(jù)質(zhì)量的整改需要有一個(gè)強(qiáng)有效的組織架構(gòu),需要把業(yè)務(wù)/技術(shù)都圈進(jìn)去,要讓業(yè)務(wù)知道數(shù)據(jù)治理的重要性,要讓技術(shù)明白數(shù)據(jù)治理的必要性;

????????開源組件已有Apache Griffin、微眾的Qualities,其大致實(shí)現(xiàn)就是提供了集成化的數(shù)據(jù)校驗(yàn)規(guī)則,匹配各個(gè)數(shù)據(jù)接口,可定時(shí)調(diào)度形成報(bào)表數(shù)據(jù)。

二、數(shù)據(jù)生命周期管理模塊

????????我們應(yīng)該知道我們存儲(chǔ)的數(shù)據(jù),有沒有人使用,進(jìn)而將我們的數(shù)據(jù)進(jìn)行分類,進(jìn)而可以對我們的數(shù)據(jù)進(jìn)行一個(gè)重要性分級(jí)。

????????可以通過調(diào)度任務(wù)sql進(jìn)行分析,確定數(shù)據(jù)冷熱區(qū),對于一定時(shí)期冷凍的數(shù)據(jù)進(jìn)行壓縮歸檔。

? 三、元數(shù)據(jù)管理

? ? ? ? ? 數(shù)據(jù)字典是基礎(chǔ), 定義并管理這些數(shù)據(jù)元素的業(yè)務(wù)描述、技術(shù)屬性以及業(yè)務(wù)數(shù)據(jù)口徑、加工路徑等內(nèi)容,促進(jìn)及時(shí)、準(zhǔn)確的了解數(shù)據(jù)含義及血緣關(guān)系。其在指標(biāo)梳理、數(shù)據(jù)流向管理中有很大的用處(例如上游系統(tǒng)發(fā)生了字段含義變更,可以快速在數(shù)據(jù)血緣上進(jìn)行確認(rèn)影響范圍)

? ???? 開源的組件有atlas

四、數(shù)據(jù)安全管理

? ???? 對數(shù)據(jù)設(shè)定安全等級(jí),保證其被適當(dāng)?shù)厥褂茫?/p>

? ???? 開源的組件有ranger、sentry。都可以做到顆粒級(jí)權(quán)限控制;

? 五、數(shù)據(jù)架構(gòu)管理模塊

? ???? 從我個(gè)人而言,一個(gè)好的數(shù)據(jù)架構(gòu)應(yīng)該保證全行級(jí)數(shù)據(jù)流向的合理性,統(tǒng)一性,數(shù)據(jù)流向亂了,數(shù)據(jù)質(zhì)量肯定亂,還談什么數(shù)據(jù)治理,先把數(shù)據(jù)架構(gòu)捋清楚。

? 六、數(shù)據(jù)標(biāo)準(zhǔn)管理模塊

? 應(yīng)該建設(shè)一個(gè)平臺(tái),對進(jìn)入數(shù)據(jù)平臺(tái)的所有任務(wù)進(jìn)行校驗(yàn),或者,有一個(gè)平臺(tái),自動(dòng)生成ETL任務(wù)。阿里oneData,執(zhí)行標(biāo)準(zhǔn)統(tǒng)一發(fā)布。



? ? ? ? 數(shù)據(jù)治理,治理誰,作為數(shù)據(jù)資產(chǎn)管理的一部分,數(shù)據(jù)治理應(yīng)該和數(shù)據(jù)標(biāo)準(zhǔn)管理、數(shù)據(jù)質(zhì)量管理、元數(shù)據(jù)管理、數(shù)據(jù)安全管理一起協(xié)同。數(shù)據(jù)標(biāo)準(zhǔn)為基礎(chǔ),通過各個(gè)數(shù)據(jù)監(jiān)測渠道獲得數(shù)據(jù)質(zhì)量指標(biāo),去真正推動(dòng)治理,才是最難的。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,431評(píng)論 6 544
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,637評(píng)論 3 429
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,555評(píng)論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,900評(píng)論 1 318
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,629評(píng)論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,976評(píng)論 1 328
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,976評(píng)論 3 448
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 43,139評(píng)論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,686評(píng)論 1 336
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,411評(píng)論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,641評(píng)論 1 374
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,129評(píng)論 5 364
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,820評(píng)論 3 350
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,233評(píng)論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,567評(píng)論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 52,362評(píng)論 3 400
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,604評(píng)論 2 380

推薦閱讀更多精彩內(nèi)容

  • 我要把瑣碎的日子,用來珍藏那夢里的眼神。曾經(jīng)遇到過如此令人心碎的眼神,飄渺中夾雜著絲絲的幽怨。我不知道你今...
    冰夫閱讀 161評(píng)論 0 0
  • 河馬先森閱讀 92評(píng)論 0 0
  • 二階打卡第十四天 今天晚上發(fā)現(xiàn)小米門牙牙齦上長了一個(gè)大膿包,看著我都疼,我正考慮明天帶她去醫(yī)院看看的,哪知道一個(gè)沒...
    小米媽咪閱讀 194評(píng)論 0 0
  • 連續(xù)加班好幾天了,沒有一天休息超過七個(gè)小時(shí),心情非常煩悶。 仔細(xì)想想,好像大年初二以后,就一直是工作狀態(tài),到現(xiàn)在。...
    游之余閱讀 159評(píng)論 0 0