01_Zookeeper集群

zookeeper原理

Zookeeper雖然在配置文件中并沒有指定master和slave
但是,zookeeper工作時,是有一個節點為leader,其他則為follower
Leader是通過內部的選舉機制臨時產生的

zookeeper的選舉機制(全新集群paxos)

以一個簡單的例子來說明整個選舉的過程.
假設有五臺服務器組成的zookeeper集群,它們的id從1-5,同時它們都是最新啟動的,也就是沒有歷史數據,在存放數據量這一點上,都是一樣的.假設這些服務器依序啟動,來看看會發生什么.

  1. 服務器1啟動,此時只有它一臺服務器啟動了,它發出去的報沒有任何響應,所以它的選舉狀態一直是LOOKING狀態
  2. 服務器2啟動,它與最開始啟動的服務器1進行通信,互相交換自己的選舉結果,由于兩者都沒有歷史數據,所以id值較大的服務器2勝出,但是由于沒有達到超過半數以上的服務器都同意選舉它(這個例子中的半數以上是3),所以服務器1,2還是繼續保持LOOKING狀態.
  3. 服務器3啟動,根據前面的理論分析,服務器3成為服務器1,2,3中的老大,而與上面不同的是,此時有三臺服務器選舉了它,所以它成為了這次選舉的leader.
  4. 服務器4啟動,根據前面的分析,理論上服務器4應該是服務器1,2,3,4中最大的,但是由于前面已經有半數以上的服務器選舉了服務器3,所以它只能接收當小弟的命了.
  5. 服務器5啟動,同4一樣,當小弟.

非全新集群的選舉機制(數據恢復)

那么,初始化的時候,是按照上述的說明進行選舉的,但是當zookeeper運行了一段時間之后,有機器down掉,重新選舉時,選舉過程就相對復雜了。需要加入數據id、leader id和邏輯時鐘。

  • 數據id:數據新的id就大,數據每次更新都會更新id。
  • Leader id:就是我們配置的myid中的值,每個機器一個。
  • 邏輯時鐘:這個值從0開始遞增,每次選舉對應一個值,也就是說: 如果在同一次選舉中,那么這個值應該是一致的 ; 邏輯時鐘值越大,說明這一次選舉leader的進程更新.

選舉的標準就變成:
1、邏輯時鐘小的選舉結果被忽略,重新投票
2、統一邏輯時鐘后,數據id大的勝出
3、數據id相同的情況下,leader id大的勝出
根據這個規則選出leader。

zookeeper安裝使用

  • 上傳zookeeper-3.4.5.tar.gz服務器
  • 解壓到/apps/zookeeper目錄
  • 刪除其他不會使用到的文件,剩下如下:
[root@hadoop zookeeper-3.4.5]# ll
total 1320
drwxr-xr-x.  2 501 games    4096 Aug 28 20:53 bin
drwxr-xr-x.  2 501 games    4096 Aug 28 21:04 conf
drwxr-xr-x. 10 501 games    4096 Aug 28 20:53 contrib
drwxr-xr-x.  4 501 games    4096 Aug 28 20:53 lib
drwxr-xr-x.  5 501 games    4096 Aug 28 20:53 recipes
-rw-r--r--.  1 501 games 1315806 Nov  5  2012 zookeeper-3.4.5.jar
-rw-r--r--.  1 501 games     833 Nov  5  2012 zookeeper-3.4.5.jar.asc
-rw-r--r--.  1 501 games      33 Nov  5  2012 zookeeper-3.4.5.jar.md5
-rw-r--r--.  1 501 games      41 Nov  5  2012 zookeeper-3.4.5.jar.sha1
[root@hadoop zookeeper-3.4.5]# 
  • 進入配置文件目錄
    cd conf/
  • 拷貝一份zoo_example.conf
    cp zoo_example.conf zoo.conf
  • 編輯zoo.conf,配置如下
    vi zoo.conf
# The number of milliseconds of each tick
tickTime=2000
# The number of ticks that the initial
# synchronization phase can take
initLimit=10
# The number of ticks that can pass between
# sending a request and getting an acknowledgement
syncLimit=5
# the directory where the snapshot is stored.
# do not use /tmp for storage, /tmp here is just
# example sakes.
dataDir=/apps/zookeeper/zkdata
# the port at which the clients will connect
clientPort=2181
#
# Be sure to read the maintenance section of the
# administrator guide before turning on autopurge.
#
# http://zookeeper.apache.org/doc/current/zookeeperAdmin.html#sc_maintenance
#
# The number of snapshots to retain in dataDir
#autopurge.snapRetainCount=3
# Purge task interval in hours
# Set to "0" to disable auto purge feature
#autopurge.purgeInterval=1
server.1=mini1:2888:3888
server.2=mini2:2888:3888
server.3=mini3:2888:3888
  • 創建zk的數據目錄
    mkdir -p /apps/zookeeper/zkdata
  • cd /apps/zookeeper/zkdata
  • 創建id文件,初始為1
    echo 1 > myid
    注意:上面語句的>兩邊一定要有空格
    cat myid

把配置好的zookeeper拷貝到其他的機器

  • 確保每臺機器都已創建/apps/目錄
    mkdir -p /apps
  • 開始拷貝到mini2
    scp -r apps/zookeeper/ root@mini2:/root
    如果當前是root用戶,第一個root可以省略
  • 在mini2上執行
[root@hadoop ~]# pwd
/root
[root@hadoop ~]# mv zookeeper/ /apps/
[root@hadoop ~]# cd /apps/zookeeper/zkdata/
[root@hadoop zkdata]# echo 2 > myid 
[root@hadoop zkdata]# cat myid 
2
  • 拷貝到mini3
    scp -r apps/zookeeper/ root@mini3:/root
    如果當前是root用戶,第一個root可以省略
  • 在mini3上執行
[root@hadoop ~]# pwd
/root
[root@hadoop ~]# mv zookeeper/ /apps/
[root@hadoop ~]# cd /apps/zookeeper/zkdata/
[root@hadoop zkdata]# echo 3 > myid 
[root@hadoop zkdata]# cat myid 
3
  • 關閉所有機器的防火墻


    點擊交換窗口
在交換窗口右鍵,選擇將交互發送給所有標簽

然后按回車,就關閉了所有機器的防火墻

  • 啟動所有機器的zookeeper
    cd /apps/zookeeper/zookeeper-3.4.5/bin/
    zkServer.sh start

  • 第一次要zoo.conf中配置了的所有主機都啟動了,才不會報錯

zk命令

  • 查看狀態
    zkServer.sh status
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,546評論 6 533
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,570評論 3 418
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,505評論 0 376
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,017評論 1 313
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,786評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,219評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,287評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,438評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,971評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,796評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,995評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,540評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,230評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,662評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,918評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,697評論 3 392
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,991評論 2 374

推薦閱讀更多精彩內容