譯 | 像使用一臺主機(jī)一樣管理集群

作者:michaelmalak

【編者的話】不論是 YARN、Mesos 還是 Omega,都是某種意義上為集群設(shè)計的操作系統(tǒng),讓用戶像使用一臺單機(jī)一樣來使用整個集群。向下集中管理所有物理資源,向上承載各種集群化的應(yīng)用; 同時, docker 的出現(xiàn)也為云操作系統(tǒng)提供了更有力的支撐。

像使用一臺主機(jī)一樣管理集群.jpg

1984年,SUN 的 John Gage 說出了那句家喻戶曉的名言 “網(wǎng)絡(luò)就是計算機(jī)”

三十年后,Gage 的夢想“幾乎”成為的現(xiàn)實(shí)。特別是隨著 web 2.0 和云計算時代的到來,人們可以使用任何設(shè)備從任何地方通過互聯(lián)網(wǎng)訪問任何云端的資源。

Tar.png

不過即使在“云端”,實(shí)際上還是一堆物理服務(wù)器。每一臺服務(wù)器的 CPU 和內(nèi)存資源都是有限的,但是組合成集群就像云一樣無窮無盡。套用 Gage 的名言,可以說“集群就是計算機(jī)”

當(dāng)單機(jī)的 CPU 性能硬盤容量逐漸碰到了天花板,通過 Hadoop 這樣的集群化技術(shù)來突破單機(jī)性能瓶頸就越來越流行。當(dāng)然在 Hadoop 出現(xiàn)之前,集群方案早就應(yīng)用于高性能的生產(chǎn)系統(tǒng),例如 Weblogic 或者集群化的 WEB 服務(wù)器(復(fù)雜均衡按照 round-robin 算法將流量發(fā)送到集群中的 Web 服務(wù)器上)。這些集群方案都針對特定場景設(shè)計,無法像通用的計算機(jī)一樣用來運(yùn)行各種不同的軟件。

Hadoop 是第一個具有通用的集群化計算平臺特征的技術(shù),而且目前已經(jīng)發(fā)展地相當(dāng)成熟。隨著新的集群化計算技術(shù)層出不窮,例如 Spark、Storm 和 Cassandra,運(yùn)維人員希望能夠隔離它們以便更好的管理,同時,從節(jié)約成本的角度講, 大家又希望公司內(nèi)部各個團(tuán)隊能夠共用這些昂貴的計算資源。

目前解決這個問題的兩大法寶是 Hadoop YARN 和 Apache Mesos。Mesos 的設(shè)計受到了 Google 的 Omega 平臺啟發(fā),而后者則來自 Google 內(nèi)部久經(jīng)考驗的Borg任務(wù)管理平臺。同樣的事情當(dāng)初也發(fā)聲在 Hadoop 之上,它就是受到了 Google 的 GFS 和 Big-Table 啟發(fā)。不論是 YARN、Mesos 還是 Omega,都是某種意義上為集群設(shè)計的操作系統(tǒng),讓用戶像使用一臺單機(jī)一樣來使用整個集群。向下集中管理所有物理資源,向上承載各種集群化的應(yīng)用。

因為 YARN 本身與 Hadoop/Map Reduce v2 綁定,對于使用早期 Hadoop 版本的開發(fā)者,升級到 YARN 也許是一個比較容易的決定。理論上可以將 YARN 跑在 Mesos 上,不過有些人擔(dān)心隨之而來的兩層資源分配問題。

Mesos 可以支持大量的框架(插件),逐步在構(gòu)建一個快速增長的生態(tài)環(huán)境。例如 Twitter的 Aurora 就是用來在 Mesos 管理的集群上進(jìn)行任務(wù)調(diào)度,已經(jīng)成為了 Apache 的孵化器項目。此外 Ringmaster 則用來在 Mesos 上快速運(yùn)行 Cassandra 和 Spark。

Chronos 相當(dāng)于 Mesos 之上的 crontable,Marathon 則相當(dāng)于 init.d,讓大家用熟悉的方式來調(diào)度任務(wù)。

最激動人心的還是 Docker 與 mesos 的整合,幾乎讓 Mesos 可以運(yùn)行任何語言編寫的軟件。

docker

Docker 的崛起本身和集群技術(shù)倒沒有直接關(guān)系,它首先被用來代替?zhèn)鹘y(tǒng)的 VM(虛擬機(jī))。容器分享了底層操作系統(tǒng),遠(yuǎn)比傳統(tǒng) VM 更加輕量。類似技術(shù)在2000年就出現(xiàn)了,那就是“jail”命令。Wiki 有關(guān)詞條描述了 35 年來 chroot 如何發(fā)展到 jails,最后的 Docker 和容器成為了集大成者。

Docker 化的應(yīng)用像一個 tar 壓縮包,在一臺普通的物理機(jī)上,你可以輕松地運(yùn)行數(shù)十個獨(dú)立的 Docker。對于一個由 Mesos 管理的集群,而且恰好你的應(yīng)用某種程度上使用了分布式的架構(gòu),那么瞬間你的集群變成了一臺強(qiáng)大的大型機(jī)。其實(shí) tar 本身意思是 “tape archive”,就是過去大型機(jī)磁帶系統(tǒng)的文件格式。

使用 Docker 容器來完全取代傳統(tǒng)的 jar 或者 ear 文件,一夜間用 Mesos 來完全取代 weblogic,還是有點(diǎn)操之過急——目前傳統(tǒng)軟件的架構(gòu)依然是 web、計算邏輯和存儲分開部署。不過對于互聯(lián)網(wǎng)公司的后臺,用 Mesos 來承載 web 服務(wù)器集群應(yīng)付高并發(fā)業(yè)務(wù),完全不是什么新鮮事兒了。

點(diǎn)擊查看英文原文

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,763評論 6 539
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,238評論 3 428
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,823評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,604評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,339評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,713評論 1 328
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,712評論 3 445
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,893評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,448評論 1 335
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,201評論 3 357
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,397評論 1 372
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,944評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,631評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,033評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,321評論 1 293
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,128評論 3 398
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,347評論 2 377

推薦閱讀更多精彩內(nèi)容