負載均衡算法

1. 輪詢（Round Robin）

   nginx默認負載均衡算法，可以配合權重使用，默認情況權重是1。

   upstream backend {
      # no load balancing method is specified for Round Robin
      server backend1.example.com;
      server backend2.example.com;
   }
   

2. 最少連接（Least Connections）

   請求會轉發到當前有效連接最少的服務器，可以配合權重使用。

   upstream backend {
       least_conn;
       server backend1.example.com;
       server backend2.example.com;
   }
   

3. IP哈希（IP Hash）

   由請求客戶端的IP地址決定請求發往哪臺服務器，可以保證同一個IP地址的請求可以轉發到同一臺服務器。IPV4的前三位或者IPV6的全部地址參與哈希運算。

   upstream backend {
       ip_hash;
       server backend1.example.com;
       server backend2.example.com;
   }
   

   如果想要暫時移除當前負載服務器組中的某一臺服務器，可以用down 參數標記服務器，已經通過IP哈希到當前服務器的請求會暫時保持，并自動被轉移到組中的下一臺服務器。

   upstream backend {
       server backend1.example.com;
       server backend2.example.com;
       server backend3.example.com down;
   }
   

4. 普通哈希（Hash）

   請求會根據自定義的字符串、變量或者二者的組合作為key進行哈希，決定發往哪臺服務器。

   upstream backend {
       hash $request_uri consistent;
       server backend1.example.com;
       server backend2.example.com;
   }
   

   hash指令中consistent 參數是可選的，如果指定了consistent參數，負載均衡會使用一致性哈希中的ketama算法，請求會根據定義的哈希鍵值哈希均勻的發往組中的所有服務器上。給服務器組中增加新服務器或者移除要原來的服務器，只會有少數的哈希鍵會重新映射。

5. 最短時間（Least Time）

   nginx plus版本才能使用，nginx plus會選擇平局延遲最低和當前最少有效連接數的服務器轉發請求，計算平均延遲基于如下參數（parameters）列表：

   • header從服務器接收到第一個字節的響應時間
   • last_byte從服務器接收到全部響應的時間
   • last_byte inflight考慮不完整請求從服務器接收到全部響應的時間

   upstream backend {
       least_time header;
       server backend1.example.com;
       server backend2.example.com;
   }
   

6. 隨機（Random）

   隨機選擇服務器轉發請求。如果random指令的**two **參數，nginx會隨機選擇兩臺服務器考慮權重問題，一臺服務器使用指定方法。指定方法包括：

   • least_conn 最少連接數
   • least_time=header (nginx plus)收到服務器響應消息頭的最短平均時間 ($upstream_header_time)
   • least_time=last_byte (nginx plus)收到服務器完整響應消息頭的最短平均時間 ($upstream_response_time)

   upstream backend {
       random two least_time=last_byte;
       server backend1.example.com;
       server backend2.example.com;
       server backend3.example.com;
       server backend4.example.com;
   }
   

   隨機負載均衡方法用在多個負載均衡將請求轉發到同一組后端服務器的分布式場景，對于負載均衡器具有所有請求的完整視圖的環境，使用其他負載均衡方法，例如輪詢，最少連接和最少時間。

其他文章列表

spring web service系列1
spring web service系列2
spring web service系列3
maven配置文件settings.xml詳解
Nginx轉發請求過程解析
Nginx upstream指令配置說明
Nginx中虛擬服務器server指令配置說明
Nginx中proxy_pass/proxy_redirect/proxy_set_header配置說明
Nginx中ngx_http_core_module相關指令配置說明
Java自帶JVM監控工具jstat使用詳細說明
Java自帶JVM監控工具jps使用詳細說明
Java自帶故障分析工具jmap工具使用說明
Java自帶故障分析工具jhat工具使用說明