namenode啟動過程簡要分析

1、Hadoop Distributed File System整體架構
image.png

1)主從架構,單個namenode,多個datanode;

2)原始數據都被分成固定大小(最后一個block除外)的block存儲在各個DataNode上,namenode只負責存儲metadata:文件名、副本數、存儲在哪個DataNode等等信息,整個分布式文件系統(tǒng)的所有metadata組成存儲在namenode上的namespace,namespace和大多數文件系統(tǒng)類似,提供新建、刪除、移動、重命名等操作,namespace是一個樹形結構;

3)client讀獲取取數據,都是先從namenode獲取metadata,然后到對應的DataNode獲取需要的數據,目的是給namenode降壓,否則如果都從namenode來獲取原始數據的話,namenode就會成為最大的瓶頸。

2、namenode啟動過程

hdfs存儲metadata涉及兩個文件:FsImageEditLog
FsImage存儲著整個文件系統(tǒng)的namespace,每個EditLog則記錄著每個block的每一次變更。

FsImage的生成:通過bin/hdfs namenode -format對namenode進行格式化的時候,會在namenode所在節(jié)點本地生成FsImage文件。

當通過sbin/start-dfs.sh第一次啟動文件系統(tǒng)的時候,系統(tǒng)會把FsImage讀取到內存中,而DataNode節(jié)點數據的相關變動,則保留在一系列的EditLog文件中,在下次(非第一次)文件系統(tǒng)重新啟動的時候,系統(tǒng)是先把目前的FsImage和所有的EditLog進行合并重新生成一個新的FsImage,然后讀取這個新的FsImage到內存中,這樣做是因為讀取FsImage的速率比讀取大量EditLog要快捷的多。

secondaryNameNode作用:在非第一次啟動namenode的時候,要對FsImage和EditLog進行合并處理,這個時候,如果上次服務器運行時間很長的話,那EditLog的數量將會非常大,這樣會導致合并的過程相當長,為了避免這個問題,HDFS系統(tǒng)會每隔一段時間(默認1小時,可配置)就對FsImage和EditLog進行合并操作,這個工作是由secondaryNameNode來完成的。

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,578評論 6 544
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發(fā)現死者居然都...
    沈念sama閱讀 99,701評論 3 429
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,691評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,974評論 1 318
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,694評論 6 413
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 56,026評論 1 329
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 44,015評論 3 450
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 43,193評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發(fā)現了一具尸體,經...
    沈念sama閱讀 49,719評論 1 336
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,442評論 3 360
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現自己被綠了。 大學時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,668評論 1 374
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,151評論 5 365
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,846評論 3 351
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,255評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,592評論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,394評論 3 400
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,635評論 2 380

推薦閱讀更多精彩內容

  • 首先,我們在使用前先看看HDFS是什麼?這將有助于我們是以后的運維使用和故障排除思路的獲得。 HDFS采用mast...
    W_Bousquet閱讀 4,223評論 0 2
  • 認識HDFS HDFS的特點: 高容錯性高吞吐量故障的檢測和自動快速恢復流式的數據訪問大數據集一次寫入,多次讀寫 ...
    Bloo_m閱讀 3,285評論 6 8
  • —— 我多么希望,有一個門口 早晨,陽光照在草上 我們站著 扶著自己的門扇 門很低,但太陽是明亮的 草在結它的種子...
    憶子倩閱讀 397評論 0 0
  • 許久不見的師兄: 我們聊聊可好?說說我們的往事。 從堂姐的口中知道你的名字,在堂姐的班級照那里知道你的樣子,在學生...
    啊豁閱讀 314評論 0 0
  • 在演技普通高超的如今,“你到底愛不愛我”.......這個問題總是困擾著情侶。雖然伴侶說的天花亂墜,但最終背叛的事...
    百家之言閱讀 387評論 0 0