一、前言

　　前面學(xué)習(xí)了Zookeeper服務(wù)端的相關(guān)細(xì)節(jié)，其中對(duì)于集群?jiǎn)?dòng)而言，很重要的一部分就是Leader選舉，接著就開(kāi)始深入學(xué)習(xí)Leader選舉。

二、Leader選舉

2.1 Leader選舉概述

　　Leader選舉是保證分布式數(shù)據(jù)一致性的關(guān)鍵所在。當(dāng)Zookeeper集群中的一臺(tái)服務(wù)器出現(xiàn)以下兩種情況之一時(shí)，需要進(jìn)入Leader選舉。

　　(1) 服務(wù)器初始化啟動(dòng)。

　　(2) 服務(wù)器運(yùn)行期間無(wú)法和Leader保持連接。

　　下面就兩種情況進(jìn)行分析講解。

1. 服務(wù)器啟動(dòng)時(shí)期的Leader選舉

　　若進(jìn)行Leader選舉，則至少需要兩臺(tái)機(jī)器，這里選取3臺(tái)機(jī)器組成的服務(wù)器集群為例。在集群初始化階段，當(dāng)有一臺(tái)服務(wù)器Server1啟動(dòng)時(shí)，其單獨(dú)無(wú)法進(jìn)行和完成Leader選舉，當(dāng)?shù)诙_(tái)服務(wù)器Server2啟動(dòng)時(shí)，此時(shí)兩臺(tái)機(jī)器可以相互通信，每臺(tái)機(jī)器都試圖找到Leader，于是進(jìn)入Leader選舉過(guò)程。選舉過(guò)程如下

(1) 每個(gè)Server發(fā)出一個(gè)投票。由于是初始情況，Server1和Server2都會(huì)將自己作為L(zhǎng)eader服務(wù)器來(lái)進(jìn)行投票，每次投票會(huì)包含所推舉的服務(wù)器的myid和ZXID，使用(myid, ZXID)來(lái)表示，此時(shí)Server1的投票為(1, 0)，Server2的投票為(2, 0)，然后各自將這個(gè)投票發(fā)給集群中其他機(jī)器。

(2)?接受來(lái)自各個(gè)服務(wù)器的投票。集群的每個(gè)服務(wù)器收到投票后，首先判斷該投票的有效性，如檢查是否是本輪投票、是否來(lái)自L(fǎng)OOKING狀態(tài)的服務(wù)器。

(3) 處理投票。針對(duì)每一個(gè)投票，服務(wù)器都需要將別人的投票和自己的投票進(jìn)行PK，PK規(guī)則如下

· 優(yōu)先檢查ZXID。ZXID比較大的服務(wù)器優(yōu)先作為L(zhǎng)eader。

· 如果ZXID相同，那么就比較myid。myid較大的服務(wù)器作為L(zhǎng)eader服務(wù)器。

對(duì)于Server1而言，它的投票是(1, 0)，接收Server2的投票為(2, 0)，首先會(huì)比較兩者的ZXID，均為0，再比較myid，此時(shí)Server2的myid最大，于是更新自己的投票為(2, 0)，然后重新投票，對(duì)于Server2而言，其無(wú)須更新自己的投票，只是再次向集群中所有機(jī)器發(fā)出上一次投票信息即可。

(4) 統(tǒng)計(jì)投票。每次投票后，服務(wù)器都會(huì)統(tǒng)計(jì)投票信息，判斷是否已經(jīng)有過(guò)半機(jī)器接受到相同的投票信息，對(duì)于Server1、Server2而言，都統(tǒng)計(jì)出集群中已經(jīng)有兩臺(tái)機(jī)器接受了(2, 0)的投票信息，此時(shí)便認(rèn)為已經(jīng)選出了Leader。

(5) 改變服務(wù)器狀態(tài)。一旦確定了Leader，每個(gè)服務(wù)器就會(huì)更新自己的狀態(tài)，如果是Follower，那么就變更為FOLLOWING，如果是Leader，就變更為L(zhǎng)EADING。

2. 服務(wù)器運(yùn)行時(shí)期的Leader選舉

在Zookeeper運(yùn)行期間，Leader與非Leader服務(wù)器各司其職，即便當(dāng)有非Leader服務(wù)器宕機(jī)或新加入，此時(shí)也不會(huì)影響Leader，但是一旦Leader服務(wù)器掛了，那么整個(gè)集群將暫停對(duì)外服務(wù)，進(jìn)入新一輪Leader選舉，其過(guò)程和啟動(dòng)時(shí)期的Leader選舉過(guò)程基本一致。假設(shè)正在運(yùn)行的有Server1、Server2、Server3三臺(tái)服務(wù)器，當(dāng)前Leader是Server2，若某一時(shí)刻Leader掛了，此時(shí)便開(kāi)始Leader選舉。選舉過(guò)程如下

(1)?變更狀態(tài)。Leader掛后，余下的非Observer服務(wù)器都會(huì)講自己的服務(wù)器狀態(tài)變更為L(zhǎng)OOKING，然后開(kāi)始進(jìn)入Leader選舉過(guò)程。

(2)?每個(gè)Server會(huì)發(fā)出一個(gè)投票。在運(yùn)行期間，每個(gè)服務(wù)器上的ZXID可能不同，此時(shí)假定Server1的ZXID為123，Server3的ZXID為122；在第一輪投票中，Server1和Server3都會(huì)投自己，產(chǎn)生投票(1, 123)，(3, 122)，然后各自將投票發(fā)送給集群中所有機(jī)器。

(3)?接收來(lái)自各個(gè)服務(wù)器的投票。與啟動(dòng)時(shí)過(guò)程相同。

(4)?處理投票。與啟動(dòng)時(shí)過(guò)程相同，此時(shí)，Server1將會(huì)成為L(zhǎng)eader。

(5)?統(tǒng)計(jì)投票。與啟動(dòng)時(shí)過(guò)程相同。

(6)?改變服務(wù)器的狀態(tài)。與啟動(dòng)時(shí)過(guò)程相同。

2.2 Leader選舉算法分析

在3.4.0后的Zookeeper的版本只保留了TCP版本的FastLeaderElection選舉算法。當(dāng)一臺(tái)機(jī)器進(jìn)入Leader選舉時(shí)，當(dāng)前集群可能會(huì)處于以下兩種狀態(tài)

　　　　· 集群中已經(jīng)存在Leader。

　　　　· 集群中不存在Leader。

　　對(duì)于集群中已經(jīng)存在Leader而言，此種情況一般都是某臺(tái)機(jī)器啟動(dòng)得較晚，在其啟動(dòng)之前，集群已經(jīng)在正常工作，對(duì)這種情況，該機(jī)器試圖去選舉Leader時(shí)，會(huì)被告知當(dāng)前服務(wù)器的Leader信息，對(duì)于該機(jī)器而言，僅僅需要和Leader機(jī)器建立起連接，并進(jìn)行狀態(tài)同步即可。而在集群中不存在Leader情況下則會(huì)相對(duì)復(fù)雜，其步驟如下

(1)?第一次投票。無(wú)論哪種導(dǎo)致進(jìn)行Leader選舉，集群的所有機(jī)器都處于試圖選舉出一個(gè)Leader的狀態(tài)，即LOOKING狀態(tài)，LOOKING機(jī)器會(huì)向所有其他機(jī)器發(fā)送消息，該消息稱(chēng)為投票。投票中包含了SID（服務(wù)器的唯一標(biāo)識(shí)）和ZXID（事務(wù)ID），(SID, ZXID)形式來(lái)標(biāo)識(shí)一次投票信息。假定Zookeeper由5臺(tái)機(jī)器組成，SID分別為1、2、3、4、5，ZXID分別為9、9、9、8、8，并且此時(shí)SID為2的機(jī)器是Leader機(jī)器，某一時(shí)刻，1、2所在機(jī)器出現(xiàn)故障，因此集群開(kāi)始進(jìn)行Leader選舉。在第一次投票時(shí)，每臺(tái)機(jī)器都會(huì)將自己作為投票對(duì)象，于是SID為3、4、5的機(jī)器投票情況分別為(3, 9)，(4, 8)， (5, 8)。

(2)?變更投票。每臺(tái)機(jī)器發(fā)出投票后，也會(huì)收到其他機(jī)器的投票，每臺(tái)機(jī)器會(huì)根據(jù)一定規(guī)則來(lái)處理收到的其他機(jī)器的投票，并以此來(lái)決定是否需要變更自己的投票，這個(gè)規(guī)則也是整個(gè)Leader選舉算法的核心所在，其中術(shù)語(yǔ)描述如下

· vote_sid：接收到的投票中所推舉Leader服務(wù)器的SID。

· vote_zxid：接收到的投票中所推舉Leader服務(wù)器的ZXID。

· self_sid：當(dāng)前服務(wù)器自己的SID。

· self_zxid：當(dāng)前服務(wù)器自己的ZXID。

　　每次對(duì)收到的投票的處理，都是對(duì)(vote_sid, vote_zxid)和(self_sid, self_zxid)對(duì)比的過(guò)程。

　　　　規(guī)則一：如果vote_zxid大于self_zxid，就認(rèn)可當(dāng)前收到的投票，并再次將該投票發(fā)送出去。

　　　　規(guī)則二：如果vote_zxid小于self_zxid，那么堅(jiān)持自己的投票，不做任何變更。

　　　　規(guī)則三：如果vote_zxid等于self_zxid，那么就對(duì)比兩者的SID，如果vote_sid大于self_sid，那么就認(rèn)可當(dāng)前收到的投票，并再次將該投票發(fā)送出去。

　　　　規(guī)則四：如果vote_zxid等于self_zxid，并且vote_sid小于self_sid，那么堅(jiān)持自己的投票，不做任何變更。

　　結(jié)合上面規(guī)則，給出下面的集群變更過(guò)程。

(3)?確定Leader。經(jīng)過(guò)第二輪投票后，集群中的每臺(tái)機(jī)器都會(huì)再次接收到其他機(jī)器的投票，然后開(kāi)始統(tǒng)計(jì)投票，如果一臺(tái)機(jī)器收到了超過(guò)半數(shù)的相同投票，那么這個(gè)投票對(duì)應(yīng)的SID機(jī)器即為L(zhǎng)eader。此時(shí)Server3將成為L(zhǎng)eader。

　　由上面規(guī)則可知，通常那臺(tái)服務(wù)器上的數(shù)據(jù)越新（ZXID會(huì)越大），其成為L(zhǎng)eader的可能性越大，也就越能夠保證數(shù)據(jù)的恢復(fù)。如果ZXID相同，則SID越大機(jī)會(huì)越大。

2.3 Leader選舉實(shí)現(xiàn)細(xì)節(jié)

1. 服務(wù)器狀態(tài)

　　服務(wù)器具有四種狀態(tài)，分別是LOOKING、FOLLOWING、LEADING、OBSERVING。

LOOKING：尋找Leader狀態(tài)。當(dāng)服務(wù)器處于該狀態(tài)時(shí)，它會(huì)認(rèn)為當(dāng)前集群中沒(méi)有Leader，因此需要進(jìn)入Leader選舉狀態(tài)。

FOLLOWING：跟隨者狀態(tài)。表明當(dāng)前服務(wù)器角色是Follower。

LEADING：領(lǐng)導(dǎo)者狀態(tài)。表明當(dāng)前服務(wù)器角色是Leader。

OBSERVING：觀(guān)察者狀態(tài)。表明當(dāng)前服務(wù)器角色是Observer。

　2. 投票數(shù)據(jù)結(jié)構(gòu)

　　每個(gè)投票中包含了兩個(gè)最基本的信息，所推舉服務(wù)器的SID和ZXID，投票（Vote）在Zookeeper中包含字段如下

id：被推舉的Leader的SID。

zxid：被推舉的Leader事務(wù)ID。

　electionEpoch：邏輯時(shí)鐘，用來(lái)判斷多個(gè)投票是否在同一輪選舉周期中，該值在服務(wù)端是一個(gè)自增序列，每次進(jìn)入新一輪的投票后，都會(huì)對(duì)該值進(jìn)行加1操作。

peerEpoch：被推舉的Leader的epoch。

state：當(dāng)前服務(wù)器的狀態(tài)。

3. QuorumCnxManager：網(wǎng)絡(luò)I/O

　　每臺(tái)服務(wù)器在啟動(dòng)的過(guò)程中，會(huì)啟動(dòng)一個(gè)QuorumPeerManager，負(fù)責(zé)各臺(tái)服務(wù)器之間的底層Leader選舉過(guò)程中的網(wǎng)絡(luò)通信。

(1)?消息隊(duì)列。QuorumCnxManager內(nèi)部維護(hù)了一系列的隊(duì)列，用來(lái)保存接收到的、待發(fā)送的消息以及消息的發(fā)送器，除接收隊(duì)列以外，其他隊(duì)列都按照SID分組形成隊(duì)列集合，如一個(gè)集群中除了自身還有3臺(tái)機(jī)器，那么就會(huì)為這3臺(tái)機(jī)器分別創(chuàng)建一個(gè)發(fā)送隊(duì)列，互不干擾。

· recvQueue：消息接收隊(duì)列，用于存放那些從其他服務(wù)器接收到的消息。

· queueSendMap：消息發(fā)送隊(duì)列，用于保存那些待發(fā)送的消息，按照SID進(jìn)行分組。

· senderWorkerMap：發(fā)送器集合，每個(gè)SenderWorker消息發(fā)送器，都對(duì)應(yīng)一臺(tái)遠(yuǎn)程Zookeeper服務(wù)器，負(fù)責(zé)消息的發(fā)送，也按照SID進(jìn)行分組。

· lastMessageSent：最近發(fā)送過(guò)的消息，為每個(gè)SID保留最近發(fā)送過(guò)的一個(gè)消息。

(2)?建立連接。為了能夠相互投票，Zookeeper集群中的所有機(jī)器都需要兩兩建立起網(wǎng)絡(luò)連接。QuorumCnxManager在啟動(dòng)時(shí)會(huì)創(chuàng)建一個(gè)ServerSocket來(lái)監(jiān)聽(tīng)Leader選舉的通信端口(默認(rèn)為3888)。開(kāi)啟監(jiān)聽(tīng)后，Zookeeper能夠不斷地接收到來(lái)自其他服務(wù)器的創(chuàng)建連接請(qǐng)求，在接收到其他服務(wù)器的TCP連接請(qǐng)求時(shí)，會(huì)進(jìn)行處理。為了避免兩臺(tái)機(jī)器之間重復(fù)地創(chuàng)建TCP連接，Zookeeper只允許SID大的服務(wù)器主動(dòng)和其他機(jī)器建立連接，否則斷開(kāi)連接。在接收到創(chuàng)建連接請(qǐng)求后，服務(wù)器通過(guò)對(duì)比自己和遠(yuǎn)程服務(wù)器的SID值來(lái)判斷是否接收連接請(qǐng)求，如果當(dāng)前服務(wù)器發(fā)現(xiàn)自己的SID更大，那么會(huì)斷開(kāi)當(dāng)前連接，然后自己主動(dòng)和遠(yuǎn)程服務(wù)器建立連接。一旦連接建立，就會(huì)根據(jù)遠(yuǎn)程服務(wù)器的SID來(lái)創(chuàng)建相應(yīng)的消息發(fā)送器SendWorker和消息接收器RecvWorker，并啟動(dòng)。

(3)?消息接收與發(fā)送。消息接收：由消息接收器RecvWorker負(fù)責(zé)，由于Zookeeper為每個(gè)遠(yuǎn)程服務(wù)器都分配一個(gè)單獨(dú)的RecvWorker，因此，每個(gè)RecvWorker只需要不斷地從這個(gè)TCP連接中讀取消息，并將其保存到recvQueue隊(duì)列中。消息發(fā)送：由于Zookeeper為每個(gè)遠(yuǎn)程服務(wù)器都分配一個(gè)單獨(dú)的SendWorker，因此，每個(gè)SendWorker只需要不斷地從對(duì)應(yīng)的消息發(fā)送隊(duì)列中獲取出一個(gè)消息發(fā)送即可，同時(shí)將這個(gè)消息放入lastMessageSent中。在SendWorker中，一旦Zookeeper發(fā)現(xiàn)針對(duì)當(dāng)前服務(wù)器的消息發(fā)送隊(duì)列為空，那么此時(shí)需要從lastMessageSent中取出一個(gè)最近發(fā)送過(guò)的消息來(lái)進(jìn)行再次發(fā)送，這是為了解決接收方在消息接收前或者接收到消息后服務(wù)器掛了，導(dǎo)致消息尚未被正確處理。同時(shí)，Zookeeper能夠保證接收方在處理消息時(shí)，會(huì)對(duì)重復(fù)消息進(jìn)行正確的處理。

4. FastLeaderElection：選舉算法核心

· 外部投票：特指其他服務(wù)器發(fā)來(lái)的投票。

· 內(nèi)部投票：服務(wù)器自身當(dāng)前的投票。

· 選舉輪次：Zookeeper服務(wù)器Leader選舉的輪次，即logicalclock。

· PK：對(duì)內(nèi)部投票和外部投票進(jìn)行對(duì)比來(lái)確定是否需要變更內(nèi)部投票。

(1) 選票管理

· sendqueue：選票發(fā)送隊(duì)列，用于保存待發(fā)送的選票。

· recvqueue：選票接收隊(duì)列，用于保存接收到的外部投票。

· WorkerReceiver：選票接收器。其會(huì)不斷地從QuorumCnxManager中獲取其他服務(wù)器發(fā)來(lái)的選舉消息，并將其轉(zhuǎn)換成一個(gè)選票，然后保存到recvqueue中，在選票接收過(guò)程中，如果發(fā)現(xiàn)該外部選票的選舉輪次小于當(dāng)前服務(wù)器的，那么忽略該外部投票，同時(shí)立即發(fā)送自己的內(nèi)部投票。

　· WorkerSender：選票發(fā)送器，不斷地從sendqueue中獲取待發(fā)送的選票，并將其傳遞到底層QuorumCnxManager中。

(2) 算法核心

　　上圖展示了FastLeaderElection模塊是如何與底層網(wǎng)絡(luò)I/O進(jìn)行交互的。Leader選舉的基本流程如下

1.?自增選舉輪次。Zookeeper規(guī)定所有有效的投票都必須在同一輪次中，在開(kāi)始新一輪投票時(shí)，會(huì)首先對(duì)logicalclock進(jìn)行自增操作。

2.?初始化選票。在開(kāi)始進(jìn)行新一輪投票之前，每個(gè)服務(wù)器都會(huì)初始化自身的選票，并且在初始化階段，每臺(tái)服務(wù)器都會(huì)將自己推舉為L(zhǎng)eader。

3.?發(fā)送初始化選票。完成選票的初始化后，服務(wù)器就會(huì)發(fā)起第一次投票。Zookeeper會(huì)將剛剛初始化好的選票放入sendqueue中，由發(fā)送器WorkerSender負(fù)責(zé)發(fā)送出去。

4.?接收外部投票。每臺(tái)服務(wù)器會(huì)不斷地從recvqueue隊(duì)列中獲取外部選票。如果服務(wù)器發(fā)現(xiàn)無(wú)法獲取到任何外部投票，那么就會(huì)立即確認(rèn)自己是否和集群中其他服務(wù)器保持著有效的連接，如果沒(méi)有連接，則馬上建立連接，如果已經(jīng)建立了連接，則再次發(fā)送自己當(dāng)前的內(nèi)部投票。

　5.?判斷選舉輪次。在發(fā)送完初始化選票之后，接著開(kāi)始處理外部投票。在處理外部投票時(shí)，會(huì)根據(jù)選舉輪次來(lái)進(jìn)行不同的處理。

· 外部投票的選舉輪次大于內(nèi)部投票。若服務(wù)器自身的選舉輪次落后于該外部投票對(duì)應(yīng)服務(wù)器的選舉輪次，那么就會(huì)立即更新自己的選舉輪次(logicalclock)，并且清空所有已經(jīng)收到的投票，然后使用初始化的投票來(lái)進(jìn)行PK以確定是否變更內(nèi)部投票。最終再將內(nèi)部投票發(fā)送出去。

· 外部投票的選舉輪次小于內(nèi)部投票。若服務(wù)器接收的外選票的選舉輪次落后于自身的選舉輪次，那么Zookeeper就會(huì)直接忽略該外部投票，不做任何處理，并返回步驟4。

· 外部投票的選舉輪次等于內(nèi)部投票。此時(shí)可以開(kāi)始進(jìn)行選票P(pán)K。

6.?選票P(pán)K。在進(jìn)行選票P(pán)K時(shí)，符合任意一個(gè)條件就需要變更投票。

　　　　· 若外部投票中推舉的Leader服務(wù)器的選舉輪次大于內(nèi)部投票，那么需要變更投票。

　　　　· 若選舉輪次一致，那么就對(duì)比兩者的ZXID，若外部投票的ZXID大，那么需要變更投票。

　　　　· 若兩者的ZXID一致，那么就對(duì)比兩者的SID，若外部投票的SID大，那么就需要變更投票。

7.?變更投票。經(jīng)過(guò)PK后，若確定了外部投票優(yōu)于內(nèi)部投票，那么就變更投票，即使用外部投票的選票信息來(lái)覆蓋內(nèi)部投票，變更完成后，再次將這個(gè)變更后的內(nèi)部投票發(fā)送出去。

8.?選票歸檔。無(wú)論是否變更了投票，都會(huì)將剛剛收到的那份外部投票放入選票集合recvset中進(jìn)行歸檔。recvset用于記錄當(dāng)前服務(wù)器在本輪次的Leader選舉中收到的所有外部投票（按照服務(wù)隊(duì)的SID區(qū)別，如{(1, vote1), (2, vote2)...}）。

9.?統(tǒng)計(jì)投票。完成選票歸檔后，就可以開(kāi)始統(tǒng)計(jì)投票，統(tǒng)計(jì)投票是為了統(tǒng)計(jì)集群中是否已經(jīng)有過(guò)半的服務(wù)器認(rèn)可了當(dāng)前的內(nèi)部投票，如果確定已經(jīng)有過(guò)半服務(wù)器認(rèn)可了該投票，則終止投票。否則返回步驟4。

10.?更新服務(wù)器狀態(tài)。若已經(jīng)確定可以終止投票，那么就開(kāi)始更新服務(wù)器狀態(tài)，服務(wù)器首選判斷當(dāng)前被過(guò)半服務(wù)器認(rèn)可的投票所對(duì)應(yīng)的Leader服務(wù)器是否是自己，若是自己，則將自己的服務(wù)器狀態(tài)更新為L(zhǎng)EADING，若不是，則根據(jù)具體情況來(lái)確定自己是FOLLOWING或是OBSERVING。

　　以上10個(gè)步驟就是FastLeaderElection的核心，其中步驟4-9會(huì)經(jīng)過(guò)幾輪循環(huán)，直到有Leader選舉產(chǎn)生。

三、總結(jié)

　　經(jīng)過(guò)本篇博文的學(xué)習(xí)，了解了Leader選舉的具體細(xì)節(jié)，這對(duì)于之后的代碼分析會(huì)打下很好的基礎(chǔ)。也謝謝各位園友的觀(guān)看~

??????? gaoshan個(gè)人解釋?zhuān)x舉輪次，也就是邏輯時(shí)鐘，即logicalclock。這個(gè)值，不會(huì)頻繁變化，一次選舉，自增一次。一次選舉過(guò)程中，可能包括多次投票，投票不涉及邏輯時(shí)鐘的自增。

???????? 舉例，初始情況下5臺(tái)機(jī)器，sid分別為1、2、3、4、5，邏輯時(shí)鐘都是0。依次啟動(dòng)后，開(kāi)始選舉，所有的機(jī)器邏輯時(shí)鐘自增為1。經(jīng)過(guò)多次投票，假設(shè)第三臺(tái)機(jī)器為leader，其他4臺(tái)機(jī)器為follower，此時(shí)5臺(tái)機(jī)器的邏輯時(shí)鐘都為1。

??????? 一般情況下，邏輯時(shí)鐘應(yīng)該都是相同的。但是，由于一些機(jī)器崩潰的問(wèn)題，是可能出現(xiàn)邏輯時(shí)鐘不一致的情況的。例如，上例中，sid=3的機(jī)器為leader。之后某一刻，sid為1、3的機(jī)器崩潰，zookeeper仍然可以正常對(duì)外提供服務(wù)。但需要重新選主，剩下的2、4、5重新投票選主，假設(shè)sid=5成為新的leader，邏輯時(shí)鐘自增，由1變成2。之后某一刻，sid為5的機(jī)器奔潰，sid為1的機(jī)器復(fù)活，仍然有3臺(tái)機(jī)器運(yùn)行，zookeeper可以對(duì)外提供服務(wù)，但需要重新選主。重新選主，邏輯時(shí)鐘自增，這時(shí)sid為2、4的機(jī)器的邏輯時(shí)鐘是由2自增為3，而sid為1的機(jī)器的邏輯時(shí)鐘是由1自增為2。這種情況下，就出現(xiàn)了邏輯時(shí)鐘不一致的情況。這時(shí)，需要清楚sid為1的機(jī)器內(nèi)部的投票數(shù)據(jù)，因?yàn)檫@些投票數(shù)據(jù)都是過(guò)時(shí)的數(shù)據(jù)。