近十年國內互聯網行業飛速發展,我們對軟件系統的需求已經不再是過去”能用就行”這種很low的檔次了,像618、雙十一這樣的活動不斷逼迫我們去突破軟件系統的性能上限,傳統的IT企業”能用就行”的開發思想已經不能滿足互聯網高并發、大流量的性能要求。系統架構走向分布式已經是服務器開發領域解決該問題唯一的出路,然而分布式系統由于天生的復雜度,并不像開發單體應用一樣把框架一堆就能搞定,因此各大互聯網公司都在投入技術力量研發自己的基礎設施。這里面比較有名的如阿里的開源項目dubbo, Netflix開發的一系列服務框架。在這種“百花齊放”、重復造輪子的狀況下,必然要出現一種統一的標準來簡化分布式系統的開發,Spring Cloud應運而生。
一、Spring Cloud是什么
????Spring Cloud是一個微服務框架,相比Dubbo等RPC框架,Spring Cloud提供的全套的分布式系統解決方案。
???Spring Cloud對微服務基礎框架Netflix的多個開源組件進行了封裝,同時又實現了和云端平臺以及和Spring Boot開發框架的集成。?
????????Spring Cloud為微服務架構開發涉及的配置管理,服務治理,熔斷機制,智能路由,微代理,控制總線,一次性token,全局一致性鎖,leader選舉,分布式session,集群狀態管理等操作提供了一種簡單的開發方式。
????????Spring Cloud 為開發者提供了快速構建分布式系統的工具,開發者可以快速的啟動服務或構建應用、同時能夠快速和云平臺資源進行對接。
二、SpringCloud架構
Spring Cloud是一系列框架的有序集合。它利用Spring Boot的開發便利性巧妙地簡化了分布式系統基礎設施的開發,如 服務發現注冊、配置中心、消息總線、負載均衡、斷路器、數據監控 等,都可以用Spring Boot的開發風格做到一鍵啟動和部署。Spring并沒有重復制造輪子,它只是將目前各家公司開發的比較成熟、經得起實際考驗的服務框架組合起來,通過Spring Boot風格進行再封裝屏蔽掉了復雜的配置和實現原理,最終給開發者留出了一套簡單易懂、易部署和易維護的分布式系統開發工具包。 Spring Cloud正是對Netflix的多個開源組件進一步的封裝而成 ,同時又實現了和云端平臺,和Spring Boot開發框架很好的集成。 Spring Cloud是一個相對比較新的微服務框架,2016年才推出1.0的release版本. 雖然Spring Cloud時間最短, 但是相比Dubbo等RPC框架,Spring Cloud提供的全套的分布式系統解決方案。 Spring Cloud 為開發者提供了在分布式系統( 配置管理,服務發現,熔斷,路由,微代理,控制總線,一次性token,全居瑣,leader選舉,分布式session,集群狀態 )中快速構建的工具,使用Spring Cloud的開發者可以快速的啟動服務或構建應用、同時能夠快速和云平臺資源進行對接。
三、 Spring Cloud組成
Spring Cloud的子項目,大致可分成兩類,一類是對現有成熟框架”Spring Boot化”的封裝和抽象,也是數量最多的項目;第二類是開發了一部分分布式系統的基礎設施的實現,如 Spring Cloud Stream扮演的就是kafka, ActiveMQ這樣的角色 。對于我們想快速實踐微服務的開發者來說,第一類子項目就已經足夠使用,如:Spring Cloud Netflix,是對Netflix開發的一套分布式服務框架的封裝,包括服務的發現和注冊,負載均衡、斷路器、REST客戶端、請求路由等。該項目是Spring Cloud的子項目之一,主要內容是對Netflix公司一系列開源產品的包裝,它為Spring Boot應用提供了自配置的Netflix OSS整合。 通過一些簡單的注解,開發者就可以快速的在應用中配置一下常用模塊并構建龐大的分布式系統。它主要提供的模塊包括:服務發現(Eureka),斷路器(Hystrix),智能路由(Zuul),客戶端負載均衡(Ribbon)等。
Spring Cloud Netflix這可是個大boss,地位僅次于老大,老大各項服務依賴與它,與各種Netflix OSS組件集成,組成微服務的核心,它的小弟主要有Eureka, Hystrix, Zuul, Archaius... 太多了
(一)、 Spring Cloud Eureka 服務發現
? 1 、 netflix-eureka
? ? 2、? Spring Cloud Eureka服務發現
? 3、Eureka
服務中心,云端服務發現,一個基于 REST 的服務,用于定位服務,以實現云端中間層服務發現和故障轉移。這個可是SpringCloud最牛鼻的小弟,服務中心,任何小弟需要其它小弟支持什么都需要從這里來拿,同樣的你有什么獨門武功的都趕緊過報道,方便以后其它小弟來調用;它的好處是你不需要直接找各種什么小弟支持,只需要到服務中心來領取,也不需要知道提供支持的其它小弟在哪里,還是幾個小弟來支持的,反正拿來用就行,服務中心來保證穩定性和質量。 Spring CloudEureka提供在分布式環境下的服務發現,服務注冊的功能。 一個RESTful服務,用來定位運行在AWS地區(Region)中的中間層服務。由兩個組件組成:Eureka服務器和Eureka客戶端。Eureka服務器用作服務注冊服務器。Eureka客戶端是一個java客戶端,用來簡化與服務器的交互、作為輪詢負載均衡器,并提供服務的故障切換支持。Netflix在其生產環境中使用的是另外的客戶端,它提供基于流量、資源利用率以及出錯狀態的加權負載均衡。
(二)、 Spring Cloud Ribbon 客戶端負載均衡
1、netflix-ribbon
2、Spring Cloud Ribbon
Ribbon,主要提供客戶側的軟件負載均衡算法。 Ribbon客戶端組件提供一系列完善的配置選項,比如連接超時、重試、重試算法等。Ribbon內置可插拔、可定制的負載均衡組件。下面是用到的一些負載均衡策略:
簡單輪詢負載均衡
加權響應時間負載均衡
區域感知輪詢負載均衡
隨機負載均衡
Ribbon中還包括以下功能:
易于與服務發現組件(比如Netflix的Eureka)集成
使用Archaius完成運行時配置
使用JMX暴露運維指標,使用Servo發布
多種可插拔的序列化選擇
異步和批處理操作(即將推出)
自動SLA框架(即將推出)
系統管理/指標控制臺(即將推出)
(三)、Spring Cloud Config
1、spring-cloud-config
俗稱的配置中心,配置管理工具包,讓你可以把配置放到遠程服務器,集中化管理集群配置,目前支持本地存儲、Git以及Subversion。就是以后大家武器、槍火什么的東西都集中放到一起,別隨便自己帶,方便以后統一管理、升級裝備。
2、Spring Cloud Config配置中心
將配置信息中央化保存, 配置Spring Cloud Bus可以實現動態修改配置文件。這個還是靜態的,得配合Spring Cloud Bus實現動態的配置更新。
3、Spring Cloud Config
Spring Cloud Config就是我們通常意義上的配置中心。Spring Cloud Config-把應用原本放在本地文件的配置抽取出來放在中心服務器,本質是配置信息從本地遷移到云端。從而能夠提供更好的管理、發布能力。 Spring Cloud Config分服務端和客戶端,服務端負責將git(svn)中存儲的配置文件發布成REST接口,客戶端可以從服務端REST接口獲取配置。但客戶端并不能主動感知到配置的變化,從而主動去獲取新的配置,這需要每個客戶端通過POST方法觸發各自的/refresh。
(四)、 Spring cloud Hystrix 熔斷器
1、netflix-hystrix
熔斷器,容錯管理工具,旨在通過熔斷機制控制服務和第三方庫的節點,從而對延遲和故障提供更強大的容錯能力。比如突然某個小弟生病了,但是你還需要它的支持,然后調用之后它半天沒有響應,你卻不知道,一直在等等這個響應;有可能別的小弟也正在調用你的武功絕技,那么當請求多之后,就會發生嚴重的阻塞影響老大的整體計劃。這個時候Hystrix就派上用場了, 當Hystrix發現某個小弟不在狀態不穩定立馬馬上讓它下線,讓其它小弟來頂上來 ,或者給你說不用等了這個小弟今天肯定不行,該干嘛趕緊干嘛去別在這排隊了。
2、Spring cloud Hystrix 熔斷器
斷路器(Cricuit Breaker)是一種能夠在遠程服務不可用時自動熔斷(打開開關),并在遠程服務恢復時自動恢復(閉合開關)的設施,Spring Cloud通過Netflix的Hystrix組件提供斷路器、資源隔離與自我修復功能。
斷路器可以防止一個應用程序多次試圖執行一個操作,即很可能失敗,允許它繼續而不等待故障恢復或者浪費 CPU 周期,而它確定該故障是持久的。斷路器模式也使應用程序能夠檢測故障是否已經解決。如果問題似乎已經得到糾正,應用程序可以嘗試調用操作。
3、Hystrix01
斷路器增加了穩定性和靈活性,以一個系統,提供穩定性,而系統從故障中恢復,并盡量減少此故障的對性能的影響。它可以幫助快速地拒絕對一個操作,即很可能失敗,而不是等待操作超時(或者不返回)的請求,以保持系統的響應時間。如果斷路器提高每次改變狀態的時間的事件,該信息可以被用來監測由斷路器保護系統的部件的健康狀況,或以提醒管理員當斷路器跳閘,以在打開狀態。
4、Hystrix02
5、Hystrix流程圖
(五)、 Spring Cloud Zuul 服務網關,智能路由
1、netflix-zuul
Zuul 是在云平臺上提供動態路由,監控,彈性,安全等邊緣服務的框架。Zuul 相當于是設備和 Netflix 流應用的 Web 網站后端所有請求的前門。當其它門派來找大哥辦事的時候一定要先經過zuul,看下有沒有帶刀子什么的給攔截回去,或者是需要找那個小弟的直接給帶過去。
2、Spring Cloud Zuul 服務網關
3、Zuul
類似Nginx,反向代理的功能,不過netflix自己增加了一些配合其他組件的特性。
(六)、 Spring Netflix Archaius
1、netflix-archaius
配置管理API,包含一系列配置管理API,提供動態類型化屬性、線程安全配置操作、輪詢框架、回調機制等功能。可以實現動態獲取配置, 原理是每隔60s(默認,可配置)從配置源讀取一次內容,這樣修改了配置文件后不需要重啟服務就可以使修改后的內容生效,前提使用archaius的API來讀取。
(七)、 Spring Cloud Bus
1、spring-cloud-bus
事件、消息總線,用于在集群(例如,配置變化事件)中傳播狀態變化,可與Spring Cloud Config聯合實現熱部署。相當于水滸傳中日行八百里的神行太保戴宗,確保各個小弟之間消息保持暢通。
分布式消息隊列,是對Kafka, MQ的封裝;事件、消息總線,用于在集群(例如,配置變化事件)中傳播狀態變化,可與Spring Cloud Config聯合實現熱部署。 Spring cloud bus通過輕量消息代理連接各個分布的節點。這會用在廣播狀態的變化(例如配置變化)或者其他的消息指令。**Spring bus的一個核心思想是通過分布式的啟動器對spring boot應用進行擴展,也可以用來建立一個多個應用之間的通信頻道。**目前唯一實現的方式是用AMQP消息代理作為通道,同樣特性的設置(有些取決于通道的設置)在更多通道的文檔中。 Spring cloud bus被國內很多都翻譯為消息總線,也挺形象的。大家可以將它理解為管理和傳播所有分布式項目中的消息既可,其實本質是利用了MQ的廣播機制在分布式的系統中傳播消息,目前常用的有Kafka和RabbitMQ。利用bus的機制可以做很多的事情,其中配置中心客戶端刷新就是典型的應用場景之一,我們用一張圖來描述bus在配置中心使用的機制。
2、Spring Cloud Bus
根據此圖我們可以看出利用Spring Cloud Bus做配置更新的步驟:
提交代碼觸發post給客戶端A發送bus/refresh
客戶端A接收到請求從Server端更新配置并且發送給Spring Cloud Bus
Spring Cloud bus接到消息并通知給其它客戶端
其它客戶端接收到通知,請求Server端獲取最新配置
全部客戶端均獲取到最新的配置
(八)、Spring Cloud Security
1、spring-cloud-security
對Spring Security的封裝,并能配合Netflix使用,安全工具包,為你的應用程序添加安全控制,主要是指OAuth2。 基于spring security的安全工具包,為你的應用程序添加安全控制。這個小弟很牛鼻專門負責整個幫派的安全問題,設置不同的門派訪問特定的資源,不能把秘籍葵花寶典泄漏了。
(九)、 Spring Cloud Zookeeper
1、spring-cloud-zookeeper
對Zookeeper的封裝,使之能配置其它Spring Cloud的子項目使用;操作Zookeeper的工具包,用于使用zookeeper方式的服務注冊和發現。 ZooKeeper是一個分布式的,開放源碼的分布式應用程序協調服務,是Google的Chubby一個開源的實現,是Hadoop和Hbase的重要組件。它是一個為分布式應用提供一致性服務的軟件,提供的功能包括:配置維護、域名服務、分布式同步、組服務等。ZooKeeper的目標就是封裝好復雜易出錯的關鍵服務,將簡單易用的接口和性能高效、功能穩定的系統提供給用戶。 操作Zookeeper的工具包,用于使用zookeeper方式的服務發現和配置管理,抱了Zookeeper的大腿。
(十)、 Spring Cloud Stream
spring-cloud-stream
數據流;數據流操作開發包,封裝了與Redis,Rabbit、Kafka等發送接收消息。 Spring Cloud Stream是創建消息驅動微服務應用的框架。Spring Cloud Stream是基于spring boot創建,用來建立單獨的/工業級spring應用,使用spring integration提供與消息代理之間的連接。數據流操作開發包,封裝了與Redis,Rabbit、Kafka等發送接收消息。 一個業務會牽扯到多個任務,任務之間是通過事件觸發的,這就是Spring Cloud stream要干的事了。
(十一)、 Spring Cloud Sleuth
spring-cloud-sleuth
服務跟蹤;日志收集工具包,封裝了Dapper,Zipkin和HTrace操作。 日志收集工具包,封裝了Dapper和log-based追蹤以及Zipkin和HTrace操作,為SpringCloud應用實現了一種分布式追蹤解決方案。
(十二)、Spring Cloud Feign 使用HTTP請求遠程服務
netflix-feign
在Spring Cloud Netflix棧中,各個微服務都是以HTTP接口的形式暴露自身服務的,因此在調用遠程服務時就必須使用HTTP客戶端。我們可以使用JDK原生的URLConnection、Apache的Http Client、Netty的異步HTTP Client, Spring的RestTemplate。但是,用起來最方便、最優雅的還是要屬Feign了。Feign是一種聲明式、模板化的HTTP客戶端。在Spring Cloud中使用Feign, 我們可以做到使用HTTP請求遠程服務時能與調用本地方法一樣的編碼體驗,開發者完全感知不到這是遠程方法,更感知不到這是個HTTP請求。 通過Feign, 我們能把HTTP遠程調用對開發者完全透明,得到與調用本地方法一致的編碼體驗。這一點與阿里Dubbo中暴露遠程服務的方式類似, 區別在于Dubbo是基于私有二進制協議,而Feign本質上還是個HTTP客戶端 。如果是在用Spring Cloud Netflix搭建微服務,那么Feign無疑是最佳選擇。
(十三) Spring Cloud for Cloud Foundry
pivotal-cloud-foundry
Cloud Foundry是VMware推出的業界第一個開源PaaS云平臺,它支持多種框架、語言、運行時環境、云平臺及應用服務,使開發人員能夠在幾秒鐘內進行應用程序的部署和擴展,無需擔心任何基礎架構的問題 其實就是與CloudFoundry進行集成的一套解決方案,抱了Cloud Foundry的大腿。
(十四)、 Spring Cloud Cluster
spring-cloud-cluster
Spring Cloud Cluster將取代Spring Integration。提供在分布式系統中的集群所需要的基礎功能支持,如:選舉、集群的狀態一致性、全局鎖、tokens等常見狀態模式的抽象和實現。 如果把不同的幫派組織成統一的整體,Spring Cloud Cluster已經幫你提供了很多方便組織成統一的工具。
(十五)、Spring Cloud Consul
hashicorp-consul
Consul 是一個支持多數據中心分布式高可用的服務發現和配置共享的服務軟件,由 HashiCorp 公司用 Go 語言開發, 基于 Mozilla Public License 2.0 的協議進行開源. Consul 支持健康檢查,并允許 HTTP 和 DNS 協議調用 API 存儲鍵值對. Spring Cloud Consul 封裝了Consul操作,consul是一個服務發現與配置工具,與Docker容器可以無縫集成。
(十六)、 Spring Cloud Data Flow
spring-cloud-data-flow
Data flow 是一個用于開發和執行大范圍數據處理其模式包括ETL,批量運算和持續運算的統一編程模型和托管服務。 對于在現代運行環境中可組合的微服務程序來說,Spring Cloud data flow是一個原生云可編配的服務。使用Spring Cloud data flow,開發者可以為像數據抽取,實時分析,和數據導入/導出這種常見用例創建和編配數據通道 (data pipelines)。 Spring Cloud data flow 是基于原生云對 spring XD的重新設計,該項目目標是簡化大數據應用的開發。Spring XD 的流處理和批處理模塊的重構分別是基于 spring boot的stream 和 task/batch 的微服務程序。這些程序現在都是自動部署單元而且他們原生的支持像 Cloud Foundry、Apache YARN、Apache Mesos和Kubernetes 等現代運行環境。 Spring Cloud data flow 為基于微服務的分布式流處理和批處理數據通道提供了一系列模型和最佳實踐。
(十七)、Spring Cloud Task
spring-cloud-task
Spring Cloud Task 主要解決短命微服務的任務管理,任務調度的工作,比如說某些定時任務晚上就跑一次,或者某項數據分析臨時就跑幾次。
(十八)、 Spring Cloud Connectors
spring-cloud-connectors
Spring Cloud Connectors 簡化了連接到服務的過程和從云平臺獲取操作的過程,有很強的擴展性,可以利用Spring Cloud Connectors來構建你自己的云平臺。 便于云端應用程序在各種PaaS平臺連接到后端,如:數據庫和消息代理服務。
(十九)、 Spring Cloud Starters
spring-cloud-starters
Spring Boot式的啟動項目,為Spring Cloud提供開箱即用的依賴管理。
(二十)、 Spring Cloud CLI
spring-cloud-cli
基于 Spring Boot CLI,可以讓你以命令行方式快速建立云組件。
(二十一)、 Netflix Turbine
netflix-turbine
Turbine是聚合服務器發送事件流數據的一個工具,用來監控集群下hystrix的metrics情況。
四、和Spring Boot 是什么關系
Spring boot 是 Spring 的一套快速配置腳手架,可以基于spring boot 快速開發單個微服務,Spring Cloud是一個基于Spring Boot實現的云應用開發工具;Spring boot專注于快速、方便集成的單個個體,Spring Cloud是關注全局的服務治理框架;spring boot使用了默認大于配置的理念,很多集成方案已經幫你選擇好了,能不配置就不配置,Spring Cloud很大的一部分是基于Spring boot來實現,可以不基于Spring boot嗎?不可以。 Spring boot可以離開Spring Cloud獨立使用開發項目,但是Spring Cloud離不開Spring boot,屬于依賴的關系
Spring -> Spring Boot > Spring Cloud 這樣的關系。