搭建Hadoop MapReduce的Eclipse開發環境

安裝Eclipse插件

插件地址https://github.com/winghc/hadoop2x-eclipse-plugin,按著其說明編譯得到適合hadoop版本的插件jar包。如hadoop-eclipse-plugin-2.7.3.jar,確認其放在了eclipse的plugins下。

啟動hadoop

通過start-dfs.sh、start-yarn.sh啟動

連接hadoop

打開首選項,找到Hadoop Map/Reduce選項,根據實際情況選擇Hadoop的安裝路徑。

打開Map/Reduce透視圖,在Map/Reduce Locations視圖下創建hadoop連接。

在General選項卡下,Location name可以任意命名,如hadoop273。

Map/Reduce(v2) Master下配置job跟蹤器的ip和端口,要和hadoop的配置項mapreduce.jobtracker.http.address一致,此處按上文《Hadoop2偽分布式安裝部署》的環境配置,host為localhost ,port為50030。

DFS Master配置HDFS配置,該配置要和core-site.xml的fs.defaultFS配置一致,所以host為localhost,port為9000。

如果一切順利,在工程視圖的DFS Locations下樹上可以瀏覽操作HDFS文件了。

創建文件夾

通過工程視圖DFS Locations 右鍵提供的Create new directory在根目錄下創建/user/$username/input待用,本例是/user/rbg/input。注意:該工具創建文件不會自動刷新,需要手動刷新一下才能顯示出來。

該路徑作為下面MapReduce程序的輸入路徑。

在input目錄上右鍵,通過Upload files to DFS將本地某個文件上傳到HDFS中,如選個hadoop的配置文件core-site.xml。

創建MapReduce Project

通過File->New->Project創建一個MapReduce Project,命名WordCount。

新建包org.apache.hadoop.example。

可以通過新建菜單提供的向導來新建Mapper、Reducer、MapReduce Driver三個部件。


3.png

也可以將三個部件放在一起,為方便,直接用hadoop自帶的樣例來講解。

在hadoop安裝目錄下/share/hadoop/mapreduce/sources/找到hadoop-mapreduce-examples-2.7.3-sources.jar,解壓,并拷貝WordCount.java到剛新建的包下。

在Eclipse中打開WordCount源代碼,WordCount就是所謂的Mapreduce驅動程序,擁有一個main函數,負責啟動一個mapreduce job。該main函數接收至少兩個參數,最后一個參數代表輸出路徑,前面代表若干個輸入路徑。

在WordCount中聲明了TokenizerMapper和IntSumReducer兩個內部類,分別是一個mapper和一個reducer。mapper分析輸入文本,以單詞為key,1作為value輸出。mapper接收到經過框架分組排序后的key-value,將value相加得到目標單詞的總數,并以單詞為key,總數為value進行輸出。最終得出文本中每個單詞出現的次數。

調試運行

創建WordCount的Java Application調試配置,在程序參數中輸入

-conf /home/rbg/tools/hadoop273/etc/hadoop/core-site.xml input output

-conf 參數是為了告訴程序應用的配置,該參數會被main函數中調用的GenericOptionsParser自動解析。如果不用該配置可以將hadoop配置文件core-site.xml拷貝到工程src下也可以,但是第二種方式不太方便。

input output這兩個目錄自動對應HDFS下的/user/rbg/input和/user/rbg/output。

運行完畢,在output下可以查看運行結果。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,763評論 6 539
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,238評論 3 428
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,823評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,604評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,339評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,713評論 1 328
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,712評論 3 445
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,893評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,448評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,201評論 3 357
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,397評論 1 372
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,944評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,631評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,033評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,321評論 1 293
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,128評論 3 398
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,347評論 2 377

推薦閱讀更多精彩內容

  • 首先,我們在使用前先看看HDFS是什麼?這將有助于我們是以后的運維使用和故障排除思路的獲得。 HDFS采用mast...
    W_Bousquet閱讀 4,219評論 0 2
  • Hadoop的編程可以是在Linux環境或Winows環境中,在此以Windows環境為示例,以Eclipse工具...
    歡醉閱讀 1,451評論 0 28
  • 目的這篇教程從用戶的角度出發,全面地介紹了Hadoop Map/Reduce框架的各個方面。先決條件請先確認Had...
    SeanC52111閱讀 1,750評論 0 1
  • 1 目的將hadoop 2.7.1 安裝到 166、167、168 三臺機器上2 提供環境練習環境192.168....
    灼灼2015閱讀 3,431評論 4 40
  • 之前的有點忘記了,這里在云筆記拿出來再玩玩.看不懂的可以留言 大家可以嘗試下Ambari來配置Hadoop的相關環...
    HT_Jonson閱讀 2,983評論 0 50