Spring Cloud Zuul線(xiàn)程、信號(hào)量隔離性能測(cè)試

我們?cè)谑褂肸uul作為網(wǎng)關(guān)的時(shí)候,Zuul內(nèi)部集成了Hystrix實(shí)現(xiàn)熔斷保護(hù),然而Hystrix是提供了信號(hào)量隔離與線(xiàn)程隔離兩種方式,那么我們Zuul網(wǎng)關(guān)服務(wù),需要使用哪種隔離策略更好呢?我們?cè)谑褂肸uul的時(shí)候,Zuul默認(rèn)使用了信號(hào)量作為隔離方式,那為什么默認(rèn)用了信號(hào)量呢,本節(jié)我們就針對(duì)這兩種隔離策略來(lái)做一下性能測(cè)試!


性能測(cè)試目的

驗(yàn)證Zuul使用哪一種隔離策略更優(yōu),Zuul網(wǎng)關(guān)作為流量入口,理應(yīng)具備良好的響應(yīng)以及較高的吞吐量,所以為了驗(yàn)證線(xiàn)程、信號(hào)量隔離哪一種更適合Zuul網(wǎng)關(guān),本次我們就針對(duì)這兩種策略做針對(duì)實(shí)驗(yàn)。根據(jù)實(shí)驗(yàn)數(shù)據(jù)在結(jié)合自身應(yīng)用做各自的選擇!


硬件/軟件配置條件

  • 硬件配置為2核4線(xiàn)程
  • Zuul網(wǎng)關(guān)配置的Hystrix timer線(xiàn)程池?cái)?shù)量為4
  • Zuul網(wǎng)關(guān)配置的Hystrix default線(xiàn)程池coreSize:2、maximumSize:5、maxQueueSize:1、queueSizeRejectionThreshold:1 ,maxQueueSize與queueSizeRejectionThreshold增大會(huì)明顯降低失敗率
  • Zuul下游服務(wù)耗時(shí)100ms
  • 性能測(cè)試軟件為Jmeter-5.4.1
  • Jmeter線(xiàn)程組配置:線(xiàn)程數(shù)200、Ramp-Up時(shí)間(秒) 1、循環(huán)次數(shù)60,該參數(shù)配置為基于硬件的配置,滿(mǎn)峰值測(cè)試性能

信號(hào)量隔離性能測(cè)試

信號(hào)量隔離應(yīng)用性能指標(biāo)及請(qǐng)求信息占比匯總

左圖為應(yīng)用性能指標(biāo),我們關(guān)注下Apdex這個(gè)指標(biāo)(滿(mǎn)意度),0.258的滿(mǎn)意度,說(shuō)明很低啊,說(shuō)明我們的請(qǐng)求響應(yīng)時(shí)間絕大多數(shù)都是大于500ms的,我們?cè)诳纯从覉D,成功與失敗的占比約為9:1,說(shuō)明在結(jié)果方面還不錯(cuò),只是時(shí)間長(zhǎng)了一點(diǎn)


信號(hào)量隔離匯總報(bào)告與聚合報(bào)告的數(shù)據(jù)分析

針對(duì)數(shù)據(jù)分析這張圖,我們大致解釋下

  • Samples=12000(總請(qǐng)求量=線(xiàn)程數(shù)200 * 循環(huán)次數(shù)60)
  • FAIL失敗的數(shù)量
  • Average 平均響應(yīng)時(shí)間
  • Min、Max 最小 最大的響應(yīng)時(shí)間
  • 90th pct 百分之90的用戶(hù)請(qǐng)求響應(yīng)時(shí)間小于這個(gè)值
  • Transaction=88.10(吞吐量=總請(qǐng)求數(shù)Samples/總耗時(shí)時(shí)間),這個(gè)地方我們結(jié)合下面的響應(yīng)時(shí)間圖大概算下是不是這么多,總耗時(shí)=14:36:09(結(jié)束時(shí)間) - 14:33:55(開(kāi)始時(shí)間) = 134秒,12000/134 = 89.55,大致差不多

信號(hào)量隔離響應(yīng)時(shí)間

我們結(jié)合這張隨著時(shí)間點(diǎn)的響應(yīng)時(shí)間圖不難看出,我們的信號(hào)量整體的響應(yīng)都比較平穩(wěn),信號(hào)量模式為共用請(qǐng)求線(xiàn)程,最終會(huì)依賴(lài)容器的線(xiàn)程池管理,隨著請(qǐng)求的增多,多余的請(qǐng)求會(huì)被放到容器隊(duì)列等待執(zhí)行,所以看起來(lái)比較平穩(wěn)


線(xiàn)程隔離性能測(cè)試

線(xiàn)程隔離應(yīng)用性能指標(biāo)及請(qǐng)求信息占比匯總

因?yàn)槲覀兣渲玫腍ystrix默認(rèn)線(xiàn)程池為coreSize:2、maximumSize:5、maxQueueSize:1、queueSizeRejectionThreshold:1,最大的隊(duì)列長(zhǎng)度為1,拒絕執(zhí)行的限制條件為1,有興趣的同學(xué)可以把maxQueueSize及queueSizeRejectionThreshold參數(shù)都調(diào)整盡可能大一點(diǎn),那么相對(duì)的實(shí)驗(yàn)數(shù)據(jù)失敗率就會(huì)明顯降低,但是在峰值環(huán)境下響應(yīng)時(shí)間會(huì)更長(zhǎng)!

我們?cè)趯?duì)比下0.042的滿(mǎn)意度,約等于93%的失敗率,可以說(shuō)是饞不忍睹,相當(dāng)于Zuul網(wǎng)關(guān)不可用


線(xiàn)程隔離匯總報(bào)告與聚合報(bào)告的數(shù)據(jù)分析

針對(duì)線(xiàn)程隔離的數(shù)據(jù)分析,失敗率達(dá)到93%,響應(yīng)時(shí)間、吞吐量都率高于信號(hào)量,這個(gè)也不難看出,大量的數(shù)據(jù)都失敗了,那么相應(yīng)的響應(yīng)時(shí)間、吞吐量就要高一點(diǎn)


線(xiàn)程隔離響應(yīng)時(shí)間

我們大概分析下這個(gè)分布圖,剛開(kāi)始請(qǐng)求會(huì)被放到Hystrix的線(xiàn)程池內(nèi)部執(zhí)行,此時(shí)線(xiàn)程夠用,所以響應(yīng)時(shí)間也相對(duì)要快一些,但是隨著請(qǐng)求數(shù)越來(lái)越多,相應(yīng)的Hystrix內(nèi)部的線(xiàn)程也越來(lái)越多在處于排隊(duì),整個(gè)響應(yīng)時(shí)間呈現(xiàn)斷崖式波動(dòng),最終也會(huì)導(dǎo)致越來(lái)越多的請(qǐng)求無(wú)法執(zhí)行,呈現(xiàn)出失敗率成倍增長(zhǎng),導(dǎo)致最終Zuul網(wǎng)關(guān)不可用!


性能測(cè)試結(jié)論

  1. Zuul網(wǎng)關(guān)層面,信號(hào)量隔離策略為首選(依賴(lài)網(wǎng)絡(luò)框架的超時(shí)機(jī)制)
  2. 應(yīng)用服務(wù)層面,線(xiàn)程隔離策略為首選(業(yè)務(wù)方法中不依賴(lài)網(wǎng)絡(luò)請(qǐng)求或者數(shù)據(jù)庫(kù)請(qǐng)求這樣的IO,信號(hào)量就沒(méi)有辦法控制超時(shí))
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,443評(píng)論 6 532
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,530評(píng)論 3 416
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人,你說(shuō)我怎么就攤上這事。” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 176,407評(píng)論 0 375
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng),這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 62,981評(píng)論 1 312
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 71,759評(píng)論 6 410
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 55,204評(píng)論 1 324
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,263評(píng)論 3 441
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 42,415評(píng)論 0 288
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,955評(píng)論 1 336
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 40,782評(píng)論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 42,983評(píng)論 1 369
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,528評(píng)論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,222評(píng)論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 34,650評(píng)論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 35,892評(píng)論 1 286
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 51,675評(píng)論 3 392
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 47,967評(píng)論 2 374

推薦閱讀更多精彩內(nèi)容