[調度]azkaban~hadoop工作流引擎


Hadoop - Azkaban 作業調度 - 哥不是小蘿莉 - 博客園
http://www.cnblogs.com/smartloli/p/5191155.html
在調度 Hadoop 的相關作業時,有以下幾種方式:

基于 Linux 系統級別的 Crontab。
Java 應用級別的 Quartz。
第三方的調度系統。
自行開發 Hadoop 應用調度系統。
  對于前兩種,使用 Crontab 和 Quartz 是基本可以滿足業務需求,但有其弊端。在 Job 數量龐大的情況下,Crontab 腳本的編寫,變得異常復雜。其調度的過程也不能透明化,讓管理變得困難。Quartz 雖然不用編寫腳本,實現對應的調度 API 即可,然其調度過程不透明,不涵蓋 Job 運行詳情。需自行開發其功能。

因而,第三方的調度系統便應運而生了。在《Hadoop - 任務調度系統比較》一文中,介紹第三方調度系統之間的差異。


Hadoop - 任務調度系統比較 - 哥不是小蘿莉 - 博客園
http://www.cnblogs.com/smartloli/p/4964741.html
1.概述
  在Hadoop應用,隨著業務指標的迭代,而使其日趨復雜化的時候,管理Hadoop的相關應用會變成一件頭疼的事情,如:作業的依賴調度,任務的運行情況的監控,異常問題的排查等,這些問題會是的我們日常的工作變得復雜。那么,在沒有條件和精力去開發一套調度系統的情況下,我們去選擇一款第三方開源的調度系統,來盡量減輕和降低我們日常工作的復雜度,也是極好的。

2.1 Oozie
  Oozie目前是托管在Apache基金會的,開源。

2.2 Zeus
  它是一個Hadoop的作業平臺,從Hadoop任務的調試運行到生產任務的周期調度,它支持任務的整個生命周期。

2.3 Azkaban
  這是由LinkedIn創建的一個批處理工作流,用于跑Hadoop的Jobs。Azkaban提供了一個易于使用的用戶界面來維護和跟蹤你的工作流程。


工作流調度器Azkaban學習,工作流調度azkaban_云計算 | 幫客之家
http://www.bkjia.com/yjs/946863.html
1、Azkaban是什么
我們在工作中應該都遇到過這樣的場景:有一個任務,這個任務可以劃分成多個較小的任務完成,之所以進行劃分是因為小任務之間可以并發的進行,例如是一個shell腳本執行的命令吧,大任務A可以劃分成B、C、D、E四個子任務(腳本)完成,而B和C是可以同時進行的,D依賴B和C的輸出,E又依賴D的輸出,于是我們一般的做法可能就是開兩個終端同時執行B和C,等兩個都執行完成之后再執行D,接著在執行E。整個執行的過程都需要我們參與,但是整個的執行過程類似一個有向無環圖,每一個子任務的執行可以看作整個任務的一個流,我們可以同時從沒有入度的節點開始執行,任何沒有流向(兩個節點之間沒有通路)關系節點都可以并行得執行,人為的控制難免就有點力不從心了(因為很多任務都需要在深夜執行,一般我們都是寫腳本并設置cron),這時候我們需要的就是一個工作流調度器。 Azkaban就是完成這種任務的(其實主要還是用于對hadoop生態圈的任務的支持),它是由Linkedin實現并開源的,主要用于在一個工作流內以一個特定的順序運行一組工作和流程,它的配置是通過簡單的key:value對的方式,通過配置中的dependencies來設置依賴關系,這個依賴關系必須是無環的,否則會被視為無效的工作流。


hadoop 集群調度 Azkaban2搭建 - bbaiggey_bigdata的博客 - 博客頻道 - CSDN.NET
http://blog.csdn.net/bbaiggey/article/details/50775568
Azkaban是由Linkedin開源的一個批量工作流任務調度器。用于在一個工作流內以一個特定的順序運行一組工作和流程。Azkaban定義了一種KV文件格式來建立任務之間的依賴關系,并提供一個易于使用的web用戶界面維護和跟蹤你的工作流。
它有如下功能特點:
Web用戶界面
方便上傳工作流
方便設置任務之間的關系
調度工作流
認證/授權(權限的工作)
能夠殺死并重新啟動工作流
模塊化和可插拔的插件機制


hadoop工作流引擎之azkaban [轉] - 風浪 - 博客園
http://www.cnblogs.com/whtydn/p/4353695.html
介紹

Azkaban是twitter出的一個任務調度系統,【操作比Oozie要簡單】很多而且非常直觀,提供的功能比較簡單。Azkaban以Flow為執行單元進行定時調度,Flow就是預定義好的由一個或多個可存在依賴關系的Job組成的工作流。Azkaban的官方主頁是http://azkaban.github.io/azkaban2/ ,它的的主要特點有下面幾個:

兼容所有Hadoop版本(1.x,2.x,CDH)
可以通過WebUI進行管理配置,操作方便
可以通過UI配置定時調度
擴展性好,可針對某一問題開發組件(目前有三個插件HDFSBrowser,JobtypePlugins和HadoopSecurityManager)
有權限管理模塊
可以通過WebUI跟蹤Flow或者Job的執行情況
可以設置郵件提醒
可以為定時Flow或者Flow中的某個Job配置執行時間長度的控制,如果執行時間超過了所設的時間,可以發送警告郵件給相關人員或者Kill掉相應設置的Flow或Job
可以重試失敗Job


針對 Hadoop 的 Oozie 工作流管理引擎的實際應用
http://www.ibm.com/developerworks/cn/data/library/bd-hadoopoozie/
Apache Oozie 是 Apache Hadoop 生態系統中的一個關鍵組件,它使得開發人員能夠調度電子郵件通知方面的重復作業,或者調度使用 Java?、UNIX Shell、Apache Hive、Apache Pig 和 Apache Sqoop 等各種編程語言編寫的重復作業。


最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,825評論 6 546
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,814評論 3 429
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,980評論 0 384
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 64,064評論 1 319
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,779評論 6 414
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 56,109評論 1 330
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 44,099評論 3 450
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 43,287評論 0 291
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,799評論 1 338
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,515評論 3 361
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,750評論 1 375
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,221評論 5 365
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,933評論 3 351
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,327評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,667評論 1 296
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,492評論 3 400
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,703評論 2 380

推薦閱讀更多精彩內容