Dubbo分析之Cluster層

前言

本文繼續分析dubbo的cluster層,此層封裝多個提供者的路由及負載均衡,并橋接注冊中心,以Invoker為中心,擴展接口為Cluster, Directory, Router, LoadBalance;

Cluster接口

整個cluster層可以使用如下圖片概括:

各節點關系:

這里的Invoker是Provider的一個可調用Service的抽象,Invoker封裝了Provider地址及Service接口信息;

Directory代表多個Invoker,可以把它看成List,但與List不同的是,它的值可能是動態變化的,比如注冊中心推送變更;

Cluster將Directory中的多個Invoker偽裝成一個 Invoker,對上層透明,偽裝過程包含了容錯邏輯,調用失敗后,重試另一個;

Router負責從多個Invoker中按路由規則選出子集,比如讀寫分離,應用隔離等;

LoadBalance負責從多個Invoker中選出具體的一個用于本次調用,選的過程包含了負載均衡算法,調用失敗后,需要重選;

Cluster經過目錄,路由,負載均衡獲取到一個可用的Invoker,交給上層調用,接口如下:

@SPI(FailoverCluster.NAME)

public interface Cluster {

? ? /**

? ? * Merge the directory invokers to a virtual invoker.

? ? *

? ? * @param <T>

? ? * @param directory

? ? * @return cluster invoker

? ? * @throws RpcException

? ? */

? ? @Adaptive

? ? <T> Invoker<T> join(Directory<T> directory) throws RpcException;

}

Cluster是一個集群容錯接口,經過路由,負載均衡之后獲取的Invoker,由容錯機制來處理,dubbo提供了多種容錯機制包括:

Failover Cluster:失敗自動切換,當出現失敗,重試其它服務器 [1]。通常用于讀操作,但重試會帶來更長延遲。可通過 retries=”2″ 來設置重試次數(不含第一次)。

Failfast Cluster:快速失敗,只發起一次調用,失敗立即報錯。通常用于非冪等性的寫操作,比如新增記錄。

Failsafe Cluster:失敗安全,出現異常時,直接忽略。通常用于寫入審計日志等操作。

Failback Cluster:失敗自動恢復,后臺記錄失敗請求,定時重發。通常用于消息通知操作。

Forking Cluster:并行調用多個服務器,只要一個成功即返回。通常用于實時性要求較高的讀操作,但需要浪費更多服務資源。可通過 forks=”2″ 來設置最大并行數。

Broadcast Cluster:廣播調用所有提供者,逐個調用,任意一臺報錯則報錯 [2]。通常用于通知所有提供者更新緩存或日志等本地資源信息。

默認使用了FailoverCluster,失敗的時候會默認重試其他服務器,默認為兩次;當然也可以擴展其他的容錯機制;看一下默認的FailoverCluster容錯機制,具體源碼在FailoverClusterInvoker中:

public Result doInvoke(Invocation invocation, final List<Invoker<T>> invokers, LoadBalance loadbalance) throws RpcException {

? ? ? ? List<Invoker<T>> copyinvokers = invokers;

? ? ? ? checkInvokers(copyinvokers, invocation);

? ? ? ? int len = getUrl().getMethodParameter(invocation.getMethodName(), Constants.RETRIES_KEY, Constants.DEFAULT_RETRIES) + 1;

? ? ? ? if (len <= 0) {

? ? ? ? ? ? len = 1;

? ? ? ? }

? ? ? ? // retry loop.

? ? ? ? RpcException le = null; // last exception.

? ? ? ? List<Invoker<T>> invoked = new ArrayList<Invoker<T>>(copyinvokers.size()); // invoked invokers.

? ? ? ? Set<String> providers = new HashSet<String>(len);

? ? ? ? for (int i = 0; i < len; i++) {

? ? ? ? ? ? //Reselect before retry to avoid a change of candidate `invokers`.

? ? ? ? ? ? //NOTE: if `invokers` changed, then `invoked` also lose accuracy.

? ? ? ? ? ? if (i > 0) {

? ? ? ? ? ? ? ? checkWhetherDestroyed();

? ? ? ? ? ? ? ? copyinvokers = list(invocation);

? ? ? ? ? ? ? ? // check again

? ? ? ? ? ? ? ? checkInvokers(copyinvokers, invocation);

? ? ? ? ? ? }

? ? ? ? ? ? Invoker<T> invoker = select(loadbalance, invocation, copyinvokers, invoked);

? ? ? ? ? ? invoked.add(invoker);

? ? ? ? ? ? RpcContext.getContext().setInvokers((List) invoked);

? ? ? ? ? ? try {

? ? ? ? ? ? ? ? Result result = invoker.invoke(invocation);

? ? ? ? ? ? ? ? if (le != null && logger.isWarnEnabled()) {

? ? ? ? ? ? ? ? ? ? logger.warn("Although retry the method " + invocation.getMethodName()

? ? ? ? ? ? ? ? ? ? ? ? ? ? + " in the service " + getInterface().getName()

? ? ? ? ? ? ? ? ? ? ? ? ? ? + " was successful by the provider " + invoker.getUrl().getAddress()

? ? ? ? ? ? ? ? ? ? ? ? ? ? + ", but there have been failed providers " + providers

? ? ? ? ? ? ? ? ? ? ? ? ? ? + " (" + providers.size() + "/" + copyinvokers.size()

? ? ? ? ? ? ? ? ? ? ? ? ? ? + ") from the registry " + directory.getUrl().getAddress()

? ? ? ? ? ? ? ? ? ? ? ? ? ? + " on the consumer " + NetUtils.getLocalHost()

? ? ? ? ? ? ? ? ? ? ? ? ? ? + " using the dubbo version " + Version.getVersion() + ". Last error is: "

? ? ? ? ? ? ? ? ? ? ? ? ? ? + le.getMessage(), le);

? ? ? ? ? ? ? ? }

? ? ? ? ? ? ? ? return result;

? ? ? ? ? ? } catch (RpcException e) {

? ? ? ? ? ? ? ? if (e.isBiz()) { // biz exception.

? ? ? ? ? ? ? ? ? ? throw e;

? ? ? ? ? ? ? ? }

? ? ? ? ? ? ? ? le = e;

? ? ? ? ? ? } catch (Throwable e) {

? ? ? ? ? ? ? ? le = new RpcException(e.getMessage(), e);

? ? ? ? ? ? } finally {

? ? ? ? ? ? ? ? providers.add(invoker.getUrl().getAddress());

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? throw new RpcException(le != null ? le.getCode() : 0, "Failed to invoke the method "

? ? ? ? ? ? ? ? + invocation.getMethodName() + " in the service " + getInterface().getName()

? ? ? ? ? ? ? ? + ". Tried " + len + " times of the providers " + providers

? ? ? ? ? ? ? ? + " (" + providers.size() + "/" + copyinvokers.size()

? ? ? ? ? ? ? ? + ") from the registry " + directory.getUrl().getAddress()

? ? ? ? ? ? ? ? + " on the consumer " + NetUtils.getLocalHost() + " using the dubbo version "

? ? ? ? ? ? ? ? + Version.getVersion() + ". Last error is: "

? ? ? ? ? ? ? ? + (le != null ? le.getMessage() : ""), le != null && le.getCause() != null ? le.getCause() : le);

? ? }

invocation是客戶端傳給服務器的相關參數包括(方法名稱,方法參數,參數值,附件信息),invokers是經過路由之后的服務器列表,loadbalance是指定的負載均衡策略;首先檢查invokers是否為空,為空直接拋異常,然后獲取重試的次數默認為2次,接下來就是循環調用指定次數,如果不是第一次調用(表示第一次調用失敗),會重新加載服務器列表,然后通過負載均衡策略獲取唯一的Invoker,最后就是通過Invoker把invocation發送給服務器,返回結果Result;

具體的doInvoke方法是在抽象類AbstractClusterInvoker中被調用的:

public Result invoke(final Invocation invocation) throws RpcException {

? ? ? ? checkWhetherDestroyed();

? ? ? ? LoadBalance loadbalance = null;

? ? ? ? List<Invoker<T>> invokers = list(invocation);

? ? ? ? if (invokers != null && !invokers.isEmpty()) {

? ? ? ? ? ? loadbalance = ExtensionLoader.getExtensionLoader(LoadBalance.class).getExtension(invokers.get(0).getUrl()

? ? ? ? ? ? ? ? ? ? .getMethodParameter(RpcUtils.getMethodName(invocation), Constants.LOADBALANCE_KEY, Constants.DEFAULT_LOADBALANCE));

? ? ? ? }

? ? ? ? RpcUtils.attachInvocationIdIfAsync(getUrl(), invocation);

? ? ? ? return doInvoke(invocation, invokers, loadbalance);

? ? }

protected List<Invoker<T>> list(Invocation invocation) throws RpcException {

? ? ? ? List<Invoker<T>> invokers = directory.list(invocation);

? ? ? ? return invokers;

? ? }

首先通過Directory獲取Invoker列表,同時在Directory中也會做路由處理,然后獲取負載均衡策略,最后調用具體的容錯策略;下面具體看一下Directory;

Directory接口

接口定義如下:

public interface Directory<T> extends Node {

? ? /**

? ? * get service type.

? ? *

? ? * @return service type.

? ? */

? ? Class<T> getInterface();

? ? /**

? ? * list invokers.

? ? *

? ? * @return invokers

? ? */

? ? List<Invoker<T>> list(Invocation invocation) throws RpcException;

}

目錄服務作用就是獲取指定接口的服務列表,具體實現有兩個:StaticDirectory和RegistryDirectory,同時都繼承于AbstractDirectory;從名字可以大致知道StaticDirectory是一個固定的目錄服務,表示里面的Invoker列表不會動態改變;RegistryDirectory是一個動態的目錄服務,通過注冊中心動態更新服務列表;list實現在抽象類中:

public List<Invoker<T>> list(Invocation invocation) throws RpcException {

? ? ? ? if (destroyed) {

? ? ? ? ? ? throw new RpcException("Directory already destroyed .url: " + getUrl());

? ? ? ? }

? ? ? ? List<Invoker<T>> invokers = doList(invocation);

? ? ? ? List<Router> localRouters = this.routers; // local reference

? ? ? ? if (localRouters != null && !localRouters.isEmpty()) {

? ? ? ? ? ? for (Router router : localRouters) {

? ? ? ? ? ? ? ? try {

? ? ? ? ? ? ? ? ? ? if (router.getUrl() == null || router.getUrl().getParameter(Constants.RUNTIME_KEY, false)) {

? ? ? ? ? ? ? ? ? ? ? ? invokers = router.route(invokers, getConsumerUrl(), invocation);

? ? ? ? ? ? ? ? ? ? }

? ? ? ? ? ? ? ? } catch (Throwable t) {

? ? ? ? ? ? ? ? ? ? logger.error("Failed to execute router: " + getUrl() + ", cause: " + t.getMessage(), t);

? ? ? ? ? ? ? ? }

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? return invokers;

? ? }

首先檢查目錄是否被銷毀,然后調用doList,具體在實現類中定義,最后調用路由功能,下面重點看一下StaticDirectory和RegistryDirectory中的doList方法

1.RegistryDirectory

是一個動態的目錄服務,所有可以看到RegistryDirectory同時也繼承了NotifyListener接口,是一個通知接口,注冊中心有服務列表更新的時候,同時通知RegistryDirectory,通知邏輯如下:

public synchronized void notify(List<URL> urls) {

? ? ? ? List<URL> invokerUrls = new ArrayList<URL>();

? ? ? ? List<URL> routerUrls = new ArrayList<URL>();

? ? ? ? List<URL> configuratorUrls = new ArrayList<URL>();

? ? ? ? for (URL url : urls) {

? ? ? ? ? ? String protocol = url.getProtocol();

? ? ? ? ? ? String category = url.getParameter(Constants.CATEGORY_KEY, Constants.DEFAULT_CATEGORY);

? ? ? ? ? ? if (Constants.ROUTERS_CATEGORY.equals(category)

? ? ? ? ? ? ? ? ? ? || Constants.ROUTE_PROTOCOL.equals(protocol)) {

? ? ? ? ? ? ? ? routerUrls.add(url);

? ? ? ? ? ? } else if (Constants.CONFIGURATORS_CATEGORY.equals(category)

? ? ? ? ? ? ? ? ? ? || Constants.OVERRIDE_PROTOCOL.equals(protocol)) {

? ? ? ? ? ? ? ? configuratorUrls.add(url);

? ? ? ? ? ? } else if (Constants.PROVIDERS_CATEGORY.equals(category)) {

? ? ? ? ? ? ? ? invokerUrls.add(url);

? ? ? ? ? ? } else {

? ? ? ? ? ? ? ? logger.warn("Unsupported category " + category + " in notified url: " + url + " from registry " + getUrl().getAddress() + " to consumer " + NetUtils.getLocalHost());

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? // configurators

? ? ? ? if (configuratorUrls != null && !configuratorUrls.isEmpty()) {

? ? ? ? ? ? this.configurators = toConfigurators(configuratorUrls);

? ? ? ? }

? ? ? ? // routers

? ? ? ? if (routerUrls != null && !routerUrls.isEmpty()) {

? ? ? ? ? ? List<Router> routers = toRouters(routerUrls);

? ? ? ? ? ? if (routers != null) { // null - do nothing

? ? ? ? ? ? ? ? setRouters(routers);

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? List<Configurator> localConfigurators = this.configurators; // local reference

? ? ? ? // merge override parameters

? ? ? ? this.overrideDirectoryUrl = directoryUrl;

? ? ? ? if (localConfigurators != null && !localConfigurators.isEmpty()) {

? ? ? ? ? ? for (Configurator configurator : localConfigurators) {

? ? ? ? ? ? ? ? this.overrideDirectoryUrl = configurator.configure(overrideDirectoryUrl);

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? // providers

? ? ? ? refreshInvoker(invokerUrls);

? ? }

此通知接口會接受三種類別的url包括:router(路由),configurator(配置),provider(服務提供方);

路由規則:決定一次dubbo服務調用的目標服務器,分為條件路由規則和腳本路由規則,并且支持可擴展,向注冊中心寫入路由規則的操作通常由監控中心或治理中心的頁面完成;

配置規則:向注冊中心寫入動態配置覆蓋規則 [1]。該功能通常由監控中心或治理中心的頁面完成;

provider:動態提供的服務列表

路由規則和配置規則其實就是對provider服務列表更新和過濾處理,refreshInvoker方法就是根據三種url類別刷新本地的invoker列表,下面看一下RegistryDirectory實現的doList接口:

public List<Invoker<T>> doList(Invocation invocation) {

? ? ? ? if (forbidden) {

? ? ? ? ? ? // 1. No service provider 2. Service providers are disabled

? ? ? ? ? ? throw new RpcException(RpcException.FORBIDDEN_EXCEPTION,

? ? ? ? ? ? ? ? "No provider available from registry " + getUrl().getAddress() + " for service " + getConsumerUrl().getServiceKey() + " on consumer " +? NetUtils.getLocalHost()

? ? ? ? ? ? ? ? ? ? ? ? + " use dubbo version " + Version.getVersion() + ", please check status of providers(disabled, not registered or in blacklist).");

? ? ? ? }

? ? ? ? List<Invoker<T>> invokers = null;

? ? ? ? Map<String, List<Invoker<T>>> localMethodInvokerMap = this.methodInvokerMap; // local reference

? ? ? ? if (localMethodInvokerMap != null && localMethodInvokerMap.size() > 0) {

? ? ? ? ? ? String methodName = RpcUtils.getMethodName(invocation);

? ? ? ? ? ? Object[] args = RpcUtils.getArguments(invocation);

? ? ? ? ? ? if (args != null && args.length > 0 && args[0] != null

? ? ? ? ? ? ? ? ? ? && (args[0] instanceof String || args[0].getClass().isEnum())) {

? ? ? ? ? ? ? ? invokers = localMethodInvokerMap.get(methodName + "." + args[0]); // The routing can be enumerated according to the first parameter

? ? ? ? ? ? }

? ? ? ? ? ? if (invokers == null) {

? ? ? ? ? ? ? ? invokers = localMethodInvokerMap.get(methodName);

? ? ? ? ? ? }

? ? ? ? ? ? if (invokers == null) {

? ? ? ? ? ? ? ? invokers = localMethodInvokerMap.get(Constants.ANY_VALUE);

? ? ? ? ? ? }

? ? ? ? ? ? if (invokers == null) {

? ? ? ? ? ? ? ? Iterator<List<Invoker<T>>> iterator = localMethodInvokerMap.values().iterator();

? ? ? ? ? ? ? ? if (iterator.hasNext()) {

? ? ? ? ? ? ? ? ? ? invokers = iterator.next();

? ? ? ? ? ? ? ? }

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? return invokers == null ? new ArrayList<Invoker<T>>(0) : invokers;

? ? }

refreshInvoker處理之后,服務列表已methodInvokerMap存在,一個方法對應服務列表Map>>;

通過Invocation中指定的方法獲取對應的服務列表,如果具體的方法沒有對應的服務列表,則獲取”*”對應的服務列表;處理完之后就在父類中進行路由處理,路由規則同樣是通過通知接口獲取的,路由規則在下章介紹;

2.StaticDirectory

這是一個靜態的目錄服務,里面的服務列表在初始化的時候就已經存在,并且不會改變;StaticDirectory用得比較少,主要用在服務對多注冊中心的引用;

protected List<Invoker<T>> doList(Invocation invocation) throws RpcException {

? ? ? ? return invokers;

? ? }

因為是靜態的,所有doList方法也很簡單,直接返回內存中的服務列表即可;

Router接口

路由規則決定一次dubbo服務調用的目標服務器,分為條件路由規則和腳本路由規則,并且支持可擴展,接口如下:

public interface Router extends Comparable<Router> {

? ? /**

? ? * get the router url.

? ? *

? ? * @return url

? ? */

? ? URL getUrl();

? ? /**

? ? * route.

? ? *

? ? * @param invokers

? ? * @param url? ? ? ? refer url

? ? * @param invocation

? ? * @return routed invokers

? ? * @throws RpcException

? ? */

? ? <T> List<Invoker<T>> route(List<Invoker<T>> invokers, URL url, Invocation invocation) throws RpcException;

}

接口中提供的route方法通過一定的規則過濾出invokers的一個子集;提供了三個實現類:ScriptRouter,ConditionRouter和MockInvokersSelector

ScriptRouter:腳本路由規則支持 JDK 腳本引擎的所有腳本,比如:javascript, jruby, groovy 等,通過type=javascript參數設置腳本類型,缺省為javascript;

ConditionRouter:基于條件表達式的路由規則,如:host = 10.20.153.10 => host = 10.20.153.11;=> 之前的為消費者匹配條件,所有參數和消費者的 URL 進行對比,=> 之后為提供者地址列表的過濾條件,所有參數和提供者的 URL 進行對比;

MockInvokersSelector:是否被配置為使用mock,此路由器保證只有具有協議MOCK的調用者出現在最終的調用者列表中,所有其他調用者將被排除;

下面重點看一下ScriptRouter源碼

public ScriptRouter(URL url) {

? ? ? ? this.url = url;

? ? ? ? String type = url.getParameter(Constants.TYPE_KEY);

? ? ? ? this.priority = url.getParameter(Constants.PRIORITY_KEY, 0);

? ? ? ? String rule = url.getParameterAndDecoded(Constants.RULE_KEY);

? ? ? ? if (type == null || type.length() == 0) {

? ? ? ? ? ? type = Constants.DEFAULT_SCRIPT_TYPE_KEY;

? ? ? ? }

? ? ? ? if (rule == null || rule.length() == 0) {

? ? ? ? ? ? throw new IllegalStateException(new IllegalStateException("route rule can not be empty. rule:" + rule));

? ? ? ? }

? ? ? ? ScriptEngine engine = engines.get(type);

? ? ? ? if (engine == null) {

? ? ? ? ? ? engine = new ScriptEngineManager().getEngineByName(type);

? ? ? ? ? ? if (engine == null) {

? ? ? ? ? ? ? ? throw new IllegalStateException(new IllegalStateException("Unsupported route rule type: " + type + ", rule: " + rule));

? ? ? ? ? ? }

? ? ? ? ? ? engines.put(type, engine);

? ? ? ? }

? ? ? ? this.engine = engine;

? ? ? ? this.rule = rule;

? ? }

構造器分別初始化腳本引擎(engine)和腳本代碼(rule),默認的腳本引擎是javascript;看一個具體的url:

"script://0.0.0.0/com.foo.BarService?category=routers&dynamic=false&rule=" + URL.encode("(function route(invokers) { ... } (invokers))")

script協議表示一個腳本協議,rule后面是一段javascript腳本,傳入的參數是invokers;

(function route(invokers) {

? ? var result = new java.util.ArrayList(invokers.size());

? ? for (i = 0; i < invokers.size(); i ++) {

? ? ? ? if ("10.20.153.10".equals(invokers.get(i).getUrl().getHost())) {

? ? ? ? ? ? result.add(invokers.get(i));

? ? ? ? }

? ? }

? ? return result;

} (invokers)); // 表示立即執行方法

如上這段腳本過濾出host為10.20.153.10,具體是如何執行這段腳本的,在route方法中:

public <T> List<Invoker<T>> route(List<Invoker<T>> invokers, URL url, Invocation invocation) throws RpcException {

? ? ? ? try {

? ? ? ? ? ? List<Invoker<T>> invokersCopy = new ArrayList<Invoker<T>>(invokers);

? ? ? ? ? ? Compilable compilable = (Compilable) engine;

? ? ? ? ? ? Bindings bindings = engine.createBindings();

? ? ? ? ? ? bindings.put("invokers", invokersCopy);

? ? ? ? ? ? bindings.put("invocation", invocation);

? ? ? ? ? ? bindings.put("context", RpcContext.getContext());

? ? ? ? ? ? CompiledScript function = compilable.compile(rule);

? ? ? ? ? ? Object obj = function.eval(bindings);

? ? ? ? ? ? if (obj instanceof Invoker[]) {

? ? ? ? ? ? ? ? invokersCopy = Arrays.asList((Invoker<T>[]) obj);

? ? ? ? ? ? } else if (obj instanceof Object[]) {

? ? ? ? ? ? ? ? invokersCopy = new ArrayList<Invoker<T>>();

? ? ? ? ? ? ? ? for (Object inv : (Object[]) obj) {

? ? ? ? ? ? ? ? ? ? invokersCopy.add((Invoker<T>) inv);

? ? ? ? ? ? ? ? }

? ? ? ? ? ? } else {

? ? ? ? ? ? ? ? invokersCopy = (List<Invoker<T>>) obj;

? ? ? ? ? ? }

? ? ? ? ? ? return invokersCopy;

? ? ? ? } catch (ScriptException e) {

? ? ? ? ? ? //fail then ignore rule .invokers.

? ? ? ? ? ? logger.error("route error , rule has been ignored. rule: " + rule + ", method:" + invocation.getMethodName() + ", url: " + RpcContext.getContext().getUrl(), e);

? ? ? ? ? ? return invokers;

? ? ? ? }

? ? }

首先通過腳本引擎編譯腳本,然后執行腳本,同時傳入Bindings參數,這樣在腳本中就可以獲取invokers,然后進行過濾;最后來看一下負載均衡策略

LoadBalance接口

在集群負載均衡時,Dubbo提供了多種均衡策略,缺省為random隨機調用,可以自行擴展負載均衡策略;接口類如下:

@SPI(RandomLoadBalance.NAME)

public interface LoadBalance {

? ? /**

? ? * select one invoker in list.

? ? *

? ? * @param invokers? invokers.

? ? * @param url? ? ? ? refer url

? ? * @param invocation invocation.

? ? * @return selected invoker.

? ? */

? ? @Adaptive("loadbalance")

? ? <T> Invoker<T> select(List<Invoker<T>> invokers, URL url, Invocation invocation) throws RpcException;

}

SPI定義了默認的策略為RandomLoadBalance,提供了一個select方法,通過策略從服務列表中選擇一個invoker;dubbo默認提供了多種策略:

Random LoadBalance:隨機,按權重設置隨機概率,在一個截面上碰撞的概率高,但調用量越大分布越均勻,而且按概率使用權重后也比較均勻,有利于動態調整提供者權重;

RoundRobin LoadBalance:輪詢,按公約后的權重設置輪詢比率;存在慢的提供者累積請求的問題,比如:第二臺機器很慢,但沒掛,當請求調到第二臺時就卡在那,

久而久之,所有請求都卡在調到第二臺上;

LeastActive LoadBalance:最少活躍調用數,相同活躍數的隨機,活躍數指調用前后計數差;使慢的提供者收到更少請求,因為越慢的提供者的調用前后計數差會越大;

ConsistentHash LoadBalance:一致性 Hash,相同參數的請求總是發到同一提供者;當某一臺提供者掛時,原本發往該提供者的請求,基于虛擬節點,平攤到其它提供者,不會引起劇烈變動;

下面重點看一下默認的RandomLoadBalance源碼

protected <T> Invoker<T> doSelect(List<Invoker<T>> invokers, URL url, Invocation invocation) {

? ? ? ? int length = invokers.size(); // Number of invokers

? ? ? ? int totalWeight = 0; // The sum of weights

? ? ? ? boolean sameWeight = true; // Every invoker has the same weight?

? ? ? ? for (int i = 0; i < length; i++) {

? ? ? ? ? ? int weight = getWeight(invokers.get(i), invocation);

? ? ? ? ? ? totalWeight += weight; // Sum

? ? ? ? ? ? if (sameWeight && i > 0

? ? ? ? ? ? ? ? ? ? && weight != getWeight(invokers.get(i - 1), invocation)) {

? ? ? ? ? ? ? ? sameWeight = false;

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? if (totalWeight > 0 && !sameWeight) {

? ? ? ? ? ? // If (not every invoker has the same weight & at least one invoker's weight>0), select randomly based on totalWeight.

? ? ? ? ? ? int offset = random.nextInt(totalWeight);

? ? ? ? ? ? // Return a invoker based on the random value.

? ? ? ? ? ? for (int i = 0; i < length; i++) {

? ? ? ? ? ? ? ? offset -= getWeight(invokers.get(i), invocation);

? ? ? ? ? ? ? ? if (offset < 0) {

? ? ? ? ? ? ? ? ? ? return invokers.get(i);

? ? ? ? ? ? ? ? }

? ? ? ? ? ? }

? ? ? ? }

? ? ? ? // If all invokers have the same weight value or totalWeight=0, return evenly.

? ? ? ? return invokers.get(random.nextInt(length));

? ? }

首先計算總權重,同時檢查是否每一個服務都有相同的權重;如果總權重大于0并且服務的權重都不相同,則通過權重來隨機選擇,否則直接通過Random函數來隨機;

總結

本文圍繞Cluster層中的幾個重要的接口從上到下來分別介紹,并重點介紹了其中的某些實現類;結合官方提供的調用圖,還是很容易理解此層的。

歡迎工作一到五年的Java工程師朋友們加入Java架構開發: 855835163

群內提供免費的Java架構學習資料(里面有高可用、高并發、高性能及分布式、Jvm性能調優、Spring源碼,MyBatis,Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多個知識點的架構資料)合理利用自己每一分每一秒的時間來學習提升自己,不要再用"沒有時間“來掩飾自己思想上的懶惰!趁年輕,使勁拼,給未來的自己一個交代!

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容