在工作中的時(shí)候，由于我負(fù)責(zé)的一個(gè)系統(tǒng)需要調(diào)用很多的第3方的系統(tǒng)，可是呢，這些個(gè)第3方的系統(tǒng)的性能完全不一致，有的好有的壞，還成本都不一樣，當(dāng)然了平時(shí)把，直接使用成本低的就行了，但是如果高并發(fā)的請(qǐng)求來(lái)的時(shí)候，系統(tǒng)就有問(wèn)題了，一開(kāi)始我們的方案時(shí)，系統(tǒng)部NOC實(shí)時(shí)監(jiān)控，如果發(fā)現(xiàn)量起來(lái)了，我們就手動(dòng)的切換通道，大多數(shù)問(wèn)題還是能夠解決，但是有時(shí)候的業(yè)務(wù)峰值一來(lái)，我們不知道，就抓瞎了，系統(tǒng)就會(huì)一臺(tái)一臺(tái)的掛，然后呢，我們又一臺(tái)一臺(tái)的重啟。影響了業(yè)務(wù)運(yùn)作，還影響了我們休息，每天都處于緊張之中。
后來(lái)吧，我就想著整一個(gè)分流分發(fā)的模塊來(lái)試試，設(shè)計(jì)思想：對(duì)針對(duì)銀行的特定業(yè)務(wù)通道做一個(gè)優(yōu)先級(jí)排序，這個(gè)優(yōu)先級(jí)排序通過(guò)一個(gè)系統(tǒng)，獨(dú)立實(shí)時(shí)計(jì)算，分流分發(fā)模塊調(diào)用該優(yōu)先級(jí)，設(shè)置開(kāi)關(guān)閥值，高流量時(shí)的管理分流業(yè)務(wù)。
可以將模塊劃分為：
通道選擇：負(fù)責(zé)選擇出符合邏輯的通道；
分流：負(fù)責(zé)最后通道選擇，里面包含從統(tǒng)計(jì)獲取的優(yōu)先級(jí)，所有通道當(dāng)前正在處理的線程數(shù)，通道處理時(shí)間，分流閥值及邏輯；
消息：負(fù)責(zé)將執(zhí)行完的信息傳送到統(tǒng)計(jì)模塊及短信或郵件通知。
前端業(yè)務(wù)已經(jīng)輸入了4項(xiàng)信息，我需要獲取到當(dāng)前銀行比如CCB能夠支持的4項(xiàng)的信息的所有通道：通道1，通道2，通道3，我把這個(gè)幾個(gè)通道傳給統(tǒng)計(jì)模塊，統(tǒng)計(jì)模塊根據(jù)該卡最近成功，較遠(yuǎn)成功，沒(méi)有使用，較遠(yuǎn)失敗，較近失敗，改銀行該通道成功率，平均反應(yīng)時(shí)間，統(tǒng)計(jì)出優(yōu)先級(jí)：通道2，通道1，通道3，分流模塊首先選中通道2，查詢(xún)通道2當(dāng)前正在執(zhí)行線程數(shù)，通道2最近閥值個(gè)線程平均執(zhí)行時(shí)間，根據(jù)閥值判斷通道可否使用，可以就走，不可以改變通道2去選中通道1，依然上面邏輯，直到有通道可用，如果通道3都不不可用了，說(shuō)明通道已經(jīng)飽滿(mǎn)，不能再接受新的請(qǐng)求了，當(dāng)前這個(gè)銀行CCB這4項(xiàng)信息的驗(yàn)證在本系統(tǒng)無(wú)法通過(guò)，要么等待，要么直接拒絕。如果有可以通道的通道，執(zhí)行了流程，需將執(zhí)行結(jié)果異步傳入統(tǒng)計(jì)模塊。
1.通道選擇，我使用redis一級(jí)緩存，chcache做本地緩存（這個(gè)是簡(jiǎn)單的方式，如果選擇的規(guī)則比較復(fù)雜，我比較建議用規(guī)則樹(shù)，加載到本地文件或者緩存和內(nèi)存）。
2.消息傳送使用RabbitMQ
3.通道限流有2種辦法可以選擇：對(duì)于性能實(shí)在是堪憂(yōu)的，直接使用Semaphore，性能可以的，使用RateLimiter，也可以全部都使用Semaphore或者線程池，這個(gè)池子的大小可以是時(shí)間*TPS（通常是進(jìn)行壓測(cè)的值，如果通道不讓壓測(cè)，那么也就只能按照經(jīng)驗(yàn)來(lái)預(yù)測(cè)一個(gè)值了）*一個(gè)倍數(shù)。
對(duì)于還多的線程，使用隨機(jī)數(shù)，將線程平均的分配給每一個(gè)通道等待隊(duì)列，不過(guò)這樣會(huì)造成一個(gè)問(wèn)題，如果關(guān)閉這個(gè)通道，那么這個(gè)通道對(duì)應(yīng)的等待隊(duì)列里面的線程依然是可以執(zhí)行的，但是新的請(qǐng)求就不會(huì)選中這個(gè)通道了。
4.請(qǐng)求前面針對(duì)本身系統(tǒng)也要有限流，這個(gè)我在前面的文章有寫(xiě)到。
5.
具體代碼稍后上傳。。。
