CentOS6.5安裝Hadoop2.7

一、環境說明:

VmWare兩臺虛擬機,各安裝CentOS6.5,部署單Master單Slave結構的Hadoop集群。

二、下載JDK與hadoop安裝包

jdk-8u92-linux-x64.gz

hadoop-2.7.4.tar.gz

三、修改系統hosts文件(兩臺機器):

使用管理員執行編輯

sudo vi /etc/hosts

添加以下內容

192.168.76.128? hd01

192.168.76.129? hd02

保存退出

修改系統hostname,以root身份

vi /etc/sysconfig/network

將兩臺虛機hostname分別改為hd01、hd02后保存。

重啟虛機使hostname生效?;蛘卟恢貑⑹褂胔ostname hd01、hostname hd02設置。

四、設置SSH互信

在每臺服務器上執行:

創建hadoop用戶

useradd hadoop

在每臺機器上切換到hadoop用戶執行以下命令

mkdir ~/.ssh

chmod 700 ~/.ssh

ssh-keygen -t rsa (一路回車)

ssh-keygen -t dsa(一路回車)

cd /home/hadoop/.ssh

cat *.pub >authorized_keys

在hd02上執行:

cd ~/.ssh

scp authorized_keys hd01:/home/hadoop/.ssh/hd02_keys

chmod 644 authorized_keys

在hd01上執行:

cd /home/hadoop/.ssh

cat hd02_keys >> authorized_keys

再將認證文件拷貝到hd02機器上:

scp ./authorized_keys hd02:/home/hadoop/.ssh/

chmod 644 authorized_keys

測試免密登錄是否設置成功:

在hd01執行ssh hd02

在hd02執行ssh hd01

五、安裝JDK

將jdk安裝包上傳至服務器hd01、hd02,在每臺服務器上解壓。

本人解壓位置/data/jdk.18

切換到hadoop用戶,編輯用戶文件

vi ~/.bash_profile,修改內容如下:

# .bash_profile

# Get the aliases and functions

if [ -f ~/.bashrc ]; then

. ~/.bashrc

fi

# User specific environment and startup programs

JAVA_HOME=/data/jdk1.8

PATH=$JAVA_HOME/bin:$PATH:$HOME/bin

export PATH JAVA_HOME

保存退出。

source ~/.bash_profile 使配置生效

java -version 查看jdk版本是否正確

六、解壓Hadoop安裝包

將Hadoop安裝包解壓到/data/hadoop/hadoop-2.7.4目錄下

將/data/hadoop目錄的擁有者改為hadoop

進入hadoop目錄,cd /data/hadoop/hadoop-2.7.4

之后,依次執行以下命令

mkdir tmp

mkdir hdfs

cd hdfs

mkdir data

mkdir name

七、修改etc/hadoop下的core-site.xml內容如下:

fs.defaultFS

hdfs://hd01:9000

hadoop.tmp.dir

file:/data/hadoop/hadoop-2.7.4/tmp

io.file.buffer.size

131702

八、修改etc/hadoop下的hdfs-site.xml內容如下

最后一個配置項關閉了hdfs的權限,開發環境可以,生產環境務必要使用權限體系。

dfs.namenode.name.dir

file:/data/hadoop/hadoop-2.7.4/hdfs/name

dfs.datanode.data.dir

file:/data/hadoop/hadoop-2.7.4/hdfs/data

dfs.replication

2

dfs.namenode.secondary.http-address

hd02:9001

dfs.webhdfs.enabled

true

dfs.permissions.enabled

false

九、etc/hadoop下復制一份mr配置文件mv mapred-site.xml.templatemapred-site.xml

修改mapred-site.xml內容如下:

mapreduce.framework.name

yarn

mapreduce.jobhistory.address

hd01:10020

mapreduce.jobhistory.webapp.address

hd01:19888

十、修改etc/hadoop下的yarn-site.xml文件內容如下:

yarn.nodemanager.aux-services

mapreduce_shuffle

yarn.nodemanager.aux-services.mapreduce.shuffle.class

org.apache.hadoop.mapred.ShuffleHandler

yarn.resourcemanager.address

hd01:8032

yarn.resourcemanager.scheduler.address

hd01:8030

yarn.resourcemanager.resource-tracker.address

hd01:8031

yarn.resourcemanager.admin.address

hd01:8033

yarn.resourcemanager.webapp.address

hd01:8088

十一、修改etc/hadoop下的slaves文件。刪除localhost行。添加:

192.168.76.129

十二、修改etc/hadoop目錄下hadoop-env.sh、yarn-env.sh的JAVA_HOME

export JAVA_HOME=/data/jdk1.8

十三、將hd01上配置好的hadoop傳輸到所有slave節點上:

scp -r /data/hadoop/hadoop-2.7.4 hd02:/data/hadoop

十四、格式化hadoop

切換到hadoop用戶,執行命令前,確保jdk已經正確配置到系統path中。

切換到/data/hadoop/hadoop-2.7.4目錄,執行命令

bin/hdfs namenode -format

十五、啟動hadoop

cd /data/hadoop/hadoop-2.7.4/sbin

./start-all.sh 啟動全部服務,當然,也可以使用獨立的shell命令啟動單獨的服務。

啟動完畢后,使用jps命令查看啟動的hadoop服務

另外,停止命令:

./stop-all.sh

十六、官方控制臺:

http://192.168.76.128:8088/

http://192.168.76.128:50070/

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,182評論 6 543
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,489評論 3 429
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,290評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,776評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,510評論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,866評論 1 328
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,860評論 3 447
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 43,036評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,585評論 1 336
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,331評論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,536評論 1 374
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,058評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,754評論 3 349
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,154評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,469評論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,273評論 3 399
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,505評論 2 379

推薦閱讀更多精彩內容