Cloudera Manager + CDH安裝

鑒于apache版本的Hadoop監控不完善,我們生產使用了CDH,同時使用Cloudera Manager監控,Cloudera Manager不但能監控集群還能監控機器,免費版也夠用真心值得推薦。

離線安裝Cloudera Manager和CDH

樓主自測很靠譜:最靠譜的CDH5安裝指南

備注:通過修改每個主機/etc/cloudera-scm-agent/config.ini的server_host為安裝Cloudera Manager的機器的主機名來直接識別需要管理的主機,這樣你可以避免為CDH集群按照指定主機。

Cloudera Manager配置MySQL

  1. 安裝MySQL(忽略)

  2. 創建cm用戶賦予權限(為了避免問題賦予最大權限)
    create user 'cm' identified by 'cm';
    grant all on . to 'cm'@'master01' identified by 'cm' with grant option;
    flush privileges;

  3. 初始化Cloudera Manager的數據庫
    /usr/share/cmf/schema/scm_prepare_database.sh -h master01 -ucm -pcm mysql --scm-host master01 scm cm cm

    執行完命令后查看/etc/cloudera-scm-server/db.properties如下

    com.cloudera.cmf.db.type=mysql
    com.cloudera.cmf.db.host=master01
    com.cloudera.cmf.db.name=scm
    com.cloudera.cmf.db.user=cm
    com.cloudera.cmf.db.password=cm
    
  4. 關閉內置數據庫PostgreSQL(一定要停止)
    /etc/init.d/cloudera-scm-server-db stop

  5. 重啟Cloudera Manager
    /etc/init.d/cloudera-scm-server stop
    /etc/init.d/cloudera-scm-server start

配置時鐘同步(使用NTP)

假設現在有3個節點(hadoop01、hadoop02、hadoop03):
hadoop01節點作為ntp服務器與外界對時中心同步時間,隨后對hadoop02、hadoop03節點提供時間同步服務。
hadoop02、hadoop03節點以hadoop01節點為基礎同步時間。
  1. 每個節點安裝ntp
    yum install ntp

  2. 配置hadoop01的/etc/ntp.conf

     server 0.cn.pool.ntp.org
     server 0.asia.pool.ntp.org
     server 3.asia.pool.ntp.org
    
     # allow update time by the upper server
     # 允許上層時間服務器主動修改本機時間
     restrict 0.cn.pool.ntp.org nomodify notrap noquery
     restrict 0.asia.pool.ntp.org nomodify notrap noquery
     restrict 3.asia.pool.ntp.org nomodify notrap noquery
    
     # Undisciplined Local Clock. This is a fake driver intended for backup
     # and when no outside source of synchronized time is available.
     # 外部時間服務器不可用時,以本地時間作為時間服務
     server  127.127.1.0     # local clock
     fudge   127.127.1.0 stratum 10
    
  3. 配置hadoop02、hdaoop03的/etc/ntp.conf

    server 0.cn.pool.ntp.org
    server 0.asia.pool.ntp.org
    server 3.asia.pool.ntp.org
    
    # allow update time by the upper server
    # 允許上層時間服務器主動修改本機時間
    restrict 0.cn.pool.ntp.org nomodify notrap noquery
    restrict 0.asia.pool.ntp.org nomodify notrap noquery
    restrict 3.asia.pool.ntp.org nomodify notrap noquery
    
    # Undisciplined Local Clock. This is a fake driver intended for backup
    # and when no outside source of synchronized time is available.
    # 外部時間服務器不可用時,以本地時間作為時間服務
    server  127.127.1.0     # local clock
    fudge   127.127.1.0 stratum 10
    server hadoop01  prefer
    
  4. 啟動 ntp
    hadoop01 啟動之前先手動同步下ntpdate 0.cn.pool.ntp.org
    hadoop02-03 啟動之前先手動同步下ntpdate hadoop01

    service ntpd start

  5. 設置開機啟動(每個節點)
    chkconfig ntpd on

安裝CDH中遇到的問題

Cloudera Manager安裝無法登陸

Cloudera Manager安裝后訪問問題
備注:問題沒有徹底解決,通過遠程訪問阿里windows系統

Hive問題

通過CM啟動hive報錯

Hive出現的問題作者的文章中都有,我居然其中的問題全出現了。
mysql-connector-java.jar 位置在:/usr/share/java/mysql-connector-java.jar
且名字一定要為:mysql-connector-java.jar

配置HA

官網配置

Hive

Hive HA

完全卸載Cloudera Manager

卸載Cloudera Manager

配置ngxin訪問CM

問題

Cloudera_Server啟動: com.cloudera.server.web.cmf.csrf.CsrfRefererInterceptor: Rejecting request originating from

解決

grep安裝目錄的csrf,直接注釋掉然后重啟cloudera-manager-server

[root@xx.xx.xx.xx cloudera-scm-server]# cd /usr/share/cmf/
[root@xx.xx.xx.xx cmf]# grep -i -r  csrf  ./
Binary file ./cloudera-navigator-server/libs/cdh5/hadoop-yarn-server-nodemanager-2.6.0-cdh5.5.0.jar matches
Binary file ./common_jars/hadoop-yarn-server-nodemanager-2.6.0-cdh5.5.0.jar matches
Binary file ./common_jars/server-5.6.0.jar matches
Binary file ./common_jars/hadoop-yarn-server-resourcemanager-2.5.0-cdh5.3.2.jar matches
./webapp/WEB-INF/spring/mvc-config.xml:                <bean class="com.cloudera.server.web.cmf.csrf.CsrfRefererInterceptor" />
Binary file ./lib/cdh5-java6/hadoop-yarn-server-resourcemanager-2.5.0-cdh5.3.2.jar matches
Binary file ./lib/server-5.6.0.jar matches
Binary file ./lib/cdh5/hadoop-yarn-server-nodemanager-2.6.0-cdh5.5.0.jar matches
[root@xx.xx.xx.xx cmf]# vi ./webapp/WEB-INF/spring/mvc-config.xml
注釋掉這個bean,然后重啟server,在訪問nginx,整個世界清凈了
<!--  <bean class="com.cloudera.server.web.cmf.csrf.CsrfRefererInterceptor" /> -->
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,983評論 6 537
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,772評論 3 422
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,947評論 0 381
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,201評論 1 315
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,960評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,350評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,406評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,549評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,104評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,914評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,089評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,647評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,340評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,753評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,007評論 1 289
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,834評論 3 395
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,106評論 2 375

推薦閱讀更多精彩內容