Spring Cloud入門教程(二)：客戶端負(fù)載均衡(Ribbon)

上一篇：《Spring Cloud入門教程(一)：服務(wù)治理(Eureka)》

本人和同事撰寫的《Spring Cloud微服務(wù)架構(gòu)開發(fā)實(shí)戰(zhàn)》一書也在京東、當(dāng)當(dāng)?shù)葧晟霞埽蠹铱梢渣c(diǎn)擊這里前往購(gòu)買，多謝大家支持和捧場(chǎng)！

對(duì)于大型應(yīng)用系統(tǒng)負(fù)載均衡(LB:Load Balancing)是首要被解決一個(gè)問題。在微服務(wù)之前LB方案主要是集中式負(fù)載均衡方案，在服務(wù)消費(fèi)者和服務(wù)提供者之間又一個(gè)獨(dú)立的LB，LB通常是專門的硬件，如F5，或者是基于軟件的，如VS、HAproxy等。LB上有所有服務(wù)的地址映射表，當(dāng)服務(wù)消費(fèi)者調(diào)用某個(gè)目標(biāo)服務(wù)時(shí)，它先向LB發(fā)起請(qǐng)求，由LB以某種策略（比如：Round-Robin）做負(fù)載均衡后將請(qǐng)求轉(zhuǎn)發(fā)到目標(biāo)服務(wù)。

而微服務(wù)的出現(xiàn)，則為L(zhǎng)B的實(shí)現(xiàn)提供了另外一種思路：把LB的功能以庫(kù)的方式集成到服務(wù)消費(fèi)方的進(jìn)程內(nèi)，而不是由一個(gè)集中的設(shè)備或服務(wù)器提供。這種方案稱為軟負(fù)載均衡（Soft Load Balancing）或者客戶端負(fù)載均衡。在Spring Cloud中配合Eureka的服務(wù)注冊(cè)功能，Ribbon子項(xiàng)目則為REST客戶端實(shí)現(xiàn)了負(fù)載均衡。

接下來我們將通過擴(kuò)展上一篇中的示例代碼來搭建一個(gè)基于Ribbon的客戶端負(fù)載均衡示例。

1. 示例代碼

保持上一篇中的代碼不變。

2. 如何啟用Ribbon

在上一篇中的consumer-hello工程(也就是我們的服務(wù)消費(fèi)方)的pom的依賴中聲明了：

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-ribbon</artifactId>
</dependency>

也就是說在本項(xiàng)目中將會(huì)啟動(dòng)Ribbon。

2.1 啟動(dòng)類

@EnableDiscoveryClient
@SpringBootApplication
public class Application {

    @Bean
    @LoadBalanced
    RestTemplate restTemplate() {
        return new RestTemplate();
    }

    public static void main(String[] args) {
        SpringApplication.run(Application.class, args);
    }

}

在該啟動(dòng)類中：

  • @EnableDiscoveryClient注解，說明這是一個(gè)Eureka客戶端，同時(shí)也可以獲取到Eureka服務(wù)器中所注冊(cè)的服務(wù)列表;
  • 在RestTemplate中我們?cè)黾恿艘粋€(gè)@LoadBalanced注解，該注解就是能夠讓RestTemplate啟用客戶端負(fù)載均衡。

備注：如果你對(duì)Spring的RestTemplate使用還不是很了解，可以參考我的這篇文章《Spring Cloud入門教程(番外篇一)：RestTemplate使用指南》。

3. 負(fù)載均衡測(cè)試

1） 啟動(dòng)Eureka服務(wù)器;
2） 啟動(dòng)多個(gè)服務(wù)提供者：SERVICE-HELLO，這里我啟動(dòng)了兩個(gè)：

java -jar service-hello-1.0.0-SNAPSHOT.jar

java -jar service-hello-1.0.0-SNAPSHOT.jar --server.port=2200

通過Maven將Service-Hello打包成一個(gè)FatJar，可以使用上面的命令啟動(dòng)多個(gè)實(shí)例。這里SERVICE-HELLO的兩個(gè)實(shí)例服務(wù)器端口分別為：2100和2200。

3） 啟動(dòng)服務(wù)消費(fèi)者：consumer-hello;
4） 打開Eureka服務(wù)器管理頁(yè)面：http://localhost:8260，可以看到已經(jīng)有兩個(gè)SERVICE-HELLO服務(wù)和一個(gè)CONSUMER-HELLO服務(wù)注冊(cè)進(jìn)來了。

Ribbon - Eureka Server

5） 打開Consumer-Hello：http://localhost:8080/hello，多次刷新，在頁(yè)面中我們可以看到下面兩個(gè)輸出交替出現(xiàn)：

Ribbon - Eureka Server

Ribbon - Eureka Server

說明了consumer-hello在交替訪問SERVICE-HELLO的兩個(gè)服務(wù)實(shí)例，也就是說我們的負(fù)載均衡測(cè)試是成功的。

4. 直接使用Ribbon的API

另外，除了使用@LoadBalanced注解外，我們還可以直接使用Ribbon所提供的LoadBalancerClient來實(shí)現(xiàn)負(fù)載均衡：

@RestController
public class HelloController {
    protected Logger logger = LoggerFactory.getLogger(HelloController.class);

    @Autowired
    private RestTemplate restTemplate;

    @Autowired
    private LoadBalancerClient loadBalancerClient;

    @RequestMapping(value = "/hello", method = RequestMethod.GET)
    public String hello() {
        return restTemplate.getForEntity("http://SERVICE-HELLO/hello", String.class).getBody();
    }

    @RequestMapping(value = "/helloEx", method = RequestMethod.GET)
    public String helloEx() {
        ServiceInstance instance = this.loadBalancerClient.choose("SERVICE-HELLO");
        URI helloUri = URI.create(String.format("http://%s:%s/hello", instance.getHost(), instance.getPort()));        
        logger.info("Target service uri = {}. ", helloUri.toString());
        return new RestTemplate().getForEntity(helloUri, String.class).getBody();
    }
}

同樣多次訪問http://localhost:8080/helloEx后，在控制臺(tái)中將會(huì)輸出以下日志：

2017-06-26 21:31:30 891 [http-nio-8080-exec-3] INFO  i.t.c.c.h.controller.HelloController - Target service uri = http://cd826dembp.lan:2100/hello. 
2017-06-26 21:31:33 008 [http-nio-8080-exec-4] INFO  i.t.c.c.h.controller.HelloController - Target service uri = http://cd826dembp.lan:2200/hello. 
2017-06-26 21:31:34 447 [http-nio-8080-exec-6] INFO  i.t.c.c.h.controller.HelloController - Target service uri = http://cd826dembp.lan:2100/hello. 
2017-06-26 21:31:35 395 [http-nio-8080-exec-7] INFO  i.t.c.c.h.controller.HelloController - Target service uri = http://cd826dembp.lan:2200/hello. 
2017-06-26 21:31:36 220 [http-nio-8080-exec-8] INFO  i.t.c.c.h.controller.HelloController - Target service uri = http://cd826dembp.lan:2100/hello.

說明負(fù)載均衡是一樣啟作用的。

注意：在helloEx方法中不能夠使用之前自動(dòng)織入的restTemplate，否則會(huì)報(bào)以下錯(cuò)誤:

java.lang.IllegalStateException: No instances available for cd826dembp.lan

這個(gè)是因?yàn)樽詣?dòng)織入的restTemplate會(huì)把服務(wù)器的邏輯名稱當(dāng)作服務(wù)名稱來使用，造成找不到相應(yīng)的服務(wù)實(shí)例，從而報(bào)錯(cuò)。

另外，我們還可以采用下面的方式：

@Primary
@Bean(name="lbcRestTemplate")
RestTemplate lbcRestTemplate() {
    return new RestTemplate();
}

上面的類更改為：

@RestController
public class HelloController {
    protected Logger logger = LoggerFactory.getLogger(HelloController.class);

    @Autowired
    @Qualifier(value = "restTemplate")
    private RestTemplate restTemplate;

    @Autowired
    @Qualifier(value = "lbcRestTemplate")
    private RestTemplate lbcRestTemplate;

    @Autowired
    private LoadBalancerClient loadBalancerClient;

    @RequestMapping(value = "/hello", method = RequestMethod.GET)
    public String hello() {
        return restTemplate.getForEntity("http://SERVICE-HELLO/hello", String.class).getBody();
    }

    @RequestMapping(value = "/helloEx", method = RequestMethod.GET)
    public String helloEx() {
        ServiceInstance instance = this.loadBalancerClient.choose("SERVICE-HELLO");
        URI helloUri = URI.create(String.format("http://%s:%s/hello", instance.getHost(), instance.getPort()));
        logger.info("Target service uri = {}. ", helloUri.toString());
        return this.lbcRestTemplate.getForEntity(helloUri, String.class).getBody();
    }
}

5. Ribbon負(fù)載均衡策略

Ribbon本身提供了下面幾種負(fù)載均衡策略：

  • RoundRobinRule: 輪詢策略，Ribbon以輪詢的方式選擇服務(wù)器，這個(gè)是默認(rèn)值。所以示例中所啟動(dòng)的兩個(gè)服務(wù)會(huì)被循環(huán)訪問;
  • RandomRule: 隨機(jī)選擇，也就是說Ribbon會(huì)隨機(jī)從服務(wù)器列表中選擇一個(gè)進(jìn)行訪問;
  • BestAvailableRule: 最大可用策略，即先過濾出故障服務(wù)器后，選擇一個(gè)當(dāng)前并發(fā)請(qǐng)求數(shù)最小的;
  • WeightedResponseTimeRule: 帶有加權(quán)的輪詢策略，對(duì)各個(gè)服務(wù)器響應(yīng)時(shí)間進(jìn)行加權(quán)處理，然后在采用輪詢的方式來獲取相應(yīng)的服務(wù)器;
  • AvailabilityFilteringRule: 可用過濾策略，先過濾出故障的或并發(fā)請(qǐng)求大于閾值一部分服務(wù)實(shí)例，然后再以線性輪詢的方式從過濾后的實(shí)例清單中選出一個(gè);
  • ZoneAvoidanceRule: 區(qū)域感知策略，先使用主過濾條件（區(qū)域負(fù)載器，選擇最優(yōu)區(qū)域）對(duì)所有實(shí)例過濾并返回過濾后的實(shí)例清單，依次使用次過濾條件列表中的過濾條件對(duì)主過濾條件的結(jié)果進(jìn)行過濾，判斷最小過濾數(shù)（默認(rèn)1）和最小過濾百分比（默認(rèn)0），最后對(duì)滿足條件的服務(wù)器則使用RoundRobinRule(輪詢方式)選擇一個(gè)服務(wù)器實(shí)例。

我們可以通過繼承ClientConfigEnabledRoundRobinRule，來實(shí)現(xiàn)自己負(fù)載均衡策略。

這里，大家先對(duì)Ribbon提供的負(fù)載均衡有一個(gè)概念，后續(xù)我們?cè)僭敿?xì)分析各個(gè)負(fù)載均衡策略的具體處理邏輯及配置方式。

6. 小結(jié)

Ribbon的主要功能是為REST客戶端實(shí)現(xiàn)負(fù)載均衡，其工作原理可以概括為下面四個(gè)步驟：

  1. Ribbon首先根據(jù)其所在Zone優(yōu)先選擇一個(gè)負(fù)載較少的Eureka Server;
  2. 定期從Eureka Server更新并過濾服務(wù)實(shí)例列表;
  3. 根據(jù)指定的負(fù)載均衡策略，從可用的服務(wù)器列表中選擇一個(gè)服務(wù)實(shí)例的地址;
  4. 然后通過RestClient進(jìn)行服務(wù)調(diào)用。

這時(shí)我們系統(tǒng)的架構(gòu)變成為：

Ribbon - 040

你可以到這里下載本篇的代碼。

下一篇:《Spring Cloud入門教程(三)：聲明式服務(wù)調(diào)用(Feign)》

最后編輯于 ：
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡(jiǎn)書系信息發(fā)布平臺(tái)，僅提供信息存儲(chǔ)服務(wù)。

推薦閱讀更多精彩內(nèi)容