Hadoop環境搭建

更改主機名

hostnamectl set-hostname master

配置host

192.168.1.88 master

配置主機名與ip的映射關系

hadoop偽分布式安裝

  1. 軟件安裝目錄:/usr/local/hadoop-2.6.2/
  2. 解壓
    tar -zxvf /home/afei/hadoop-2.6.2.tar.gz -C /usr/local/
  3. 配置環境變量

[root@master bin]# vi /etc/profile

66  ##Java
67  export JAVA_HOME=/usr/local/jdk1.8.0_102
68  export PATH=$PATH:$JAVA_HOME/bin
   
69  ##Maven
70  export MAVEN_HOME=/usr/local/apache-maven-3.3.9
71  export PATH=$PATH:$MAVEN_HOME/bin

使用 source /etc/profile生效

4 .關閉防火墻和SELinux

tips:CentOS 7跟老版本稍有不同,在老版本中是service iptables status

 service firewalld status 查看防火墻狀態
 service firewalld stop 關閉防火墻
 chkconfig iptables off 永久關閉防火墻

? 這是干啥的 #vim /etc/sysconfig/selinux 設置SELinux=disabled ?

5 .最后配置hadoop環境

1. hadoop-env.sh
[root@master bin]# vi /usr/local/hadoop-2.6.2/etc/hadoop/hadoop-env.sh 
 在文本中配置
export JAVA_HOME=/usr/local/jdk1.8.0_102

2. 這些我沒配置
a. yarn-env.sh
# export JAVA_HOME=/home/y/libexec/jdk1.6.0/
b.mapred-env.sh
# export JAVA_HOME=/home/y/libexec/jdk1.6.0/

3. core-site.xml
[root@master bin]# vi /usr/local/hadoop-2.6.2/etc/hadoop/core-site.xml 
15  <configuration>
16      <property>
17          <name>fs.defaultFS</name>
18          <value>hdfs://master:9000</value>
19      </property>
20  </configuration>

4. hdfs-site.xml
 [root@master bin]# vi /usr/local/hadoop-2.6.2/etc/hadoop/hdfs-site.xml 
15  <configuration>
16      <property>
17          <name>dfs.replication</name>
18          <value>1</value>
19      </property>
20  </configuration>

5. yarn-site.xml
[root@master bin]# vi /usr/local/hadoop-2.6.2/etc/hadoop/yarn-site.xml
15  <configuration>
16      <property>
17          <name>yarn.nodemanager.aux-services</name>
18          <value>mapreduce_shuffle</value>
19      </property>
20  </configuration>

6.編輯mapred-site.xml.template
15  <configuration>
16      <property>
17          <name>mapreduce.framework.name</name>
18          <value>yarn</value>
19      </property>
20  </configuration>

格式化 HDFS

$ bin/hdfs namenode -format

開啟 HDFS 文件系統

$ sbin/start-dfs.sh

創建目錄

[root@master bin]# ./hdfs dfs -mkdir /test-dir

上傳文件到HDFS

[root@master bin]# ./hdfs dfs -put /home/afei/some-world.txt /test-dir

列出目錄

[root@master bin]# ./hdfs dfs -ls /test-dir

列出 HDFS 中創建的目錄
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,565評論 6 539
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,115評論 3 423
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,577評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,514評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,234評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,621評論 1 326
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,641評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,822評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,380評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,128評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,319評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,879評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,548評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,970評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,229評論 1 291
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,048評論 3 397
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,285評論 2 376

推薦閱讀更多精彩內容

  • 一、安裝jdk之前卸載open jdk 虛擬機掛載命令(Mount -t iso9660 /dev/cdrom ...
    Miss丶鎖愛閱讀 1,345評論 0 1
  • Hadoop分布式集群搭建流程記錄 軟件環境 Hadoop版本:hadoop-2.7.2.tar.gz JAVA版...
    CaptainXero閱讀 1,707評論 1 3
  • 軟件以及工具 軟件 獲取軟件包請點擊 工具 文件上傳工具Windows推薦secureCRT下使用rz、sz上傳下...
    忘凈空閱讀 1,060評論 0 3
  • 1,需要的軟件 虛擬機(VMWare、VirtualBox。。。)、centos、hadoop、jdk、xshel...
    l_8173閱讀 459評論 0 0
  • 一個曾經很要好的小姐妹告訴我,她下個月要回趟家。她在杭州上班。我們有好幾年未曾見面。對,四年了!我們一起懷上大寶貝...
    希And婗閱讀 256評論 0 1