運維管理Hadoop生態集群工具比較

現在想學習大數據肯定學習Hadoop,每個新手在學習Hadoop的時候都需要去安裝一個屬于自己的測試環境才能開始愉快的玩耍。但是Hadoop的發行版本非常多,我們常用的主要有三個版本。

  1. Cloudera版本(CDH)

  2. Apache開源版本

  3. Hortonworks版本(HDP)

上面的順序也是在國內的使用率排序了。其中CDH版本由于對Hadoop版本劃分非常清晰,相關文檔比較規范因此很多人都在使用。

而Apache的開源版本版本繁多,各個版本與其他版本之間的兼容性問題較大,而且需要編寫大量的配置文件,并需要將其分發到各個節點,新手很容易出錯,打擊自己的積極性,而且效率比較低下。

我們之前寫的安裝教程都是Apache版本Hadoop安裝教程。如果是搭建自己的測試環境那么這種繁瑣程度還可以接受,但是如果是需要管理數十臺或者成百上千臺的機器的時候這就是一個非常巨大的工作量了。而且運維過程當中可能會有各種奇怪的問題,導致我們會浪費很多時間,那么萬能的程序員會被此打敗嗎?No?。?!

Ambari 和 Cloudera Manager這兩個系統就是為了簡化Hadoop生態集群的安裝,配置而生的。同時還可以去提高Hadoop的運維效率,以及對Hadoop集群進行監控。

Cloudera Manager是cloudera公司的一個產品,著重于幫助大家管理自己的CDH集群,并且我們可以通過其web界面快速的自動配置和部署CDH和其他相關組件,還有統一日志管理功能,統一集群配置管理功能和實時更改配置功能等。 官網地址

而Ambari則是Apache基金會的頂級項目,它同樣集安裝,配置,管理和監控等功能于一體,提供了可視化的操作。并且支持查看MapReduce,Hive等應用程序的能力,可以對其性能特性進行診斷。 官網地址

主要的不同點 apache Ambari ClouderaManager Express(免費版)
配置版本控制和歷史記錄 支持 不支持
二次開發 支持 不支持
集成 支持 no (不支持redis、kylin、es)
維護 依靠社區力量 cloudera做了一些定制開發,自行維護或打patch會離社區越來越遠
權限控制 ranger(相對簡單) sentry(復雜)
視圖定制 支持創建自己的視圖,添加自定義服務 不支持

如果我們使用的是CDH或者HDP版本的Hadoop那么我們有現成的工具管理整個集群,但是我們不難發現,兩者沒有對Apache的Hadoop版本進行處理,我們前面將到的 包括我們現在使用的都是基于Apache版本的Hadoop,那么集群的安裝和配置都是一個繁瑣的操作,我自己搞了一個安裝腳本,但是還很粗糙,很多東西都沒有抽象。后續規劃搞成一個服務。

現有安裝腳本的git地址

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,619評論 6 539
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,155評論 3 425
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,635評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,539評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,255評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,646評論 1 326
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,655評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,838評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,399評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,146評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,338評論 1 372
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,893評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,565評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,983評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,257評論 1 292
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,059評論 3 397
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,296評論 2 376

推薦閱讀更多精彩內容

  • 參考文章:https://my.oschina.net/u/2277929/blog/660748* http:/...
    危大可閱讀 1,643評論 0 7
  • 在Ambari中集成Presto,能在Ambari UI中方便地安裝部署Presto到集群,并能方便修改Prest...
    張家鋒閱讀 6,572評論 0 8
  • Apache HAWQ是目前社區比較火的一種SQL-on-Hadoop方案,由Pivotal公司開發并貢獻給了Ap...
    小白_18M閱讀 12,713評論 6 13
  • 憧憬未來,夢想著有一天可以成為一個寫作能手。拿起筆,描不出一個開頭,就再也寫不下去了,這樣的狀態反反復復,卡了又卡...
    毅書閱讀 257評論 0 2
  • “除了劇烈通脹時以外,我不確定貨幣有什么用?!边@話出自現任世界銀行首席經濟學家兼高級副行長保羅羅默之口。 震驚之余...
    低調的探索家閱讀 294評論 0 1