限流在分布式系統中是一個經常被提到的話題,如果當前系統的能力,不足以承受那么大的訪問量的時候,那么我們就要阻止外來請求對系統繼續施壓
實現簡單限流
首先我們來看一個常見的簡單限流策略,系統要限制每個用戶在一定時間內的某個行為只能操作N次,如何是用redis的數據結構來實現這個限流的功能呢。
解決方案
這個限流需求中存在一個滑動時間窗口,想想 zset 數據結構的 score 值,是不是可以通過 score 來圈出這個時間窗口來。而且我們只需要保留這個時間窗口,窗口之外的數據都可以砍掉。那這個 zset 的 value 填什么比較合適呢?它只需要保證唯一性即可,用 uuid 會比較浪費空間,那就改用毫秒時間戳吧。
如圖所示,用一個 zset 結構記錄用戶的行為歷史,每一個行為都會作為 zset 中的一個 key 保存下來。同一個用戶同一種行為用一個 zset 記錄。
為節省內存,我們只需要保留時間窗口內的行為記錄,同時如果用戶是冷用戶,滑動時間窗口內的行為是空記錄,那么這個 zset 就可以從內存中移除,不再占用空間。
通過統計滑動窗口內的行為數量與閾值 max_count 進行比較就可以得出當前的行為是否允許。用代碼表示如下:
public class SimpleRateLimiter {
private Jedis jedis;
public SimpleRateLimiter(Jedis jedis) {
this.jedis = jedis;
}
public boolean isActionAllowed(String userId, String actionKey, int period, int maxCount) {
String key = String.format("hist:%s:%s", userId, actionKey);
long nowTs = System.currentTimeMillis();
Pipeline pipe = jedis.pipelined();
pipe.multi();
pipe.zadd(key, nowTs, "" + nowTs);
pipe.zremrangeByScore(key, 0, nowTs - period * 1000);
Response<Long> count = pipe.zcard(key);
pipe.expire(key, period + 1);
pipe.exec();
pipe.close();
return count.get() <= maxCount;
}
public static void main(String[] args) {
Jedis jedis = new Jedis();
SimpleRateLimiter limiter = new SimpleRateLimiter(jedis);
for(int i=0;i<20;i++) {
System.out.println(limiter.isActionAllowed("laoqian", "reply", 60, 5));
}
}
}
這段代碼還是略顯復雜,需要讀者花一定的時間好好啃。它的整體思路就是:每一個行為到來時,都維護一次時間窗口。將時間窗口外的記錄全部清理掉,只保留窗口內的記錄。zset 集合中只有 score 值非常重要,value 值沒有特別的意義,只需要保證它是唯一的就可以了。
因為這幾個連續的 Redis 操作都是針對同一個 key 的,使用 pipeline 可以顯著提升 Redis 存取效率。但這種方案也有缺點,因為它要記錄時間窗口內所有的行為記錄,如果這個量很大,比如限定 60s 內操作不得超過 100w 次這樣的參數,它是不適合做這樣的限流的,因為會消耗大量的存儲空間。