如何應對高并發:悲觀鎖,樂觀鎖,Redis

根據上一篇Demo測試情況反映,當有多個線程同時搶購時,會發生超發現象,所謂超發現象,就是原本設置庫存為30000件,但是,當搶購完成后發現庫存余量變成了負數,即發貨量大于庫存量的情況:

超發現象

造成這種現象的原因:當多個線程請求數據庫查詢庫存余量時,顯示有余量,但是當進行扣減庫存時,庫存已經用完了,但那個線程并不知道,依舊去扣減庫存,造成庫存為負數的情況,于是乎就出現了超發現象。

測試方法:根據書上是html中使用js,for循環異步請求,發現并不會造成超發現象,后改為在瀏覽器中同時開啟多個窗口訪問/test進行搶購,模擬多個用戶搶購的場景,內存爆炸...

為了解決這種問題,下面將介紹三種解決方法:

1、悲觀鎖

發生超發現象的根本原因是共享數據被多個線程所修改,無法保證其執行順序,如果一個數據庫事務讀取到一個產品后,就將數據直接鎖定,不允許其他線程進行讀寫操作,直至當前數據庫事務完成才釋放這條數據的鎖,就不會發生超發現象,但是執行效率性能將大大下降。

修改ProductMapper中的SQL語句:

@Mapper
public interface ProductMapper {

    @Select("SELECT id, product_name as productName, stock, price, version, note FROM t_product where id=#{id} for update")
    ProductPo getProduct(Long id);

    @Update("UPDATE t_product SET stock = stock - #{quantity} WHERE id = #{id}")
    int decreaseProduct(@Param("id") Long id, @Param("quantity") int quantity);
}

在select語句末尾添加了for update,這樣,在數據庫事務執行的過程中,就會鎖定查詢出來的數據,其他事務將不能再對其進行讀寫,單個請求直至數據庫事務完成,才會釋放這個,下圖可見其stock為0,沒有發生超發現象,但執行效率下降了,通過購買記錄可以得知,相比之前沒加鎖慢了1/5。

庫存

2、樂觀鎖

為了解決悲觀鎖帶來的性能下降的問題,我們來討論一下樂觀鎖的原理

樂觀鎖是一種不使用數據庫鎖和不阻塞線程并發的方案,下圖是以本Demo為例的樂觀鎖流程:

流程圖

這種方案就是多線程的概念CAS(Compare and Swap),然而這樣的方案會引發一種ABA問題

T1時刻:線程1讀取商品庫存為A

T2時刻:線程2讀取商品庫存為A

T3時刻:線程2計算購買商品總價格

T4時刻:當前庫存為A,與線程2保存的舊值一致,因此線程2可減庫存(當前庫存A--->B),此時線程1在當前庫存為B的情況下計算剩余商品價格(單價*B)。

T5時刻:線程2取消購買,線程2回退(當前庫存B--->A),線程1計算的剩余商品價格錯誤。

T6時刻:線程1比較舊值與當前數據庫庫存,發現都為A,返回之前計算好的(單價*B)結果,造成了錯誤。

從上面的分析中看到一個現象A--->B--->A的過程,就是所謂的ABA問題,解決此問題的方法為加入版本號的限制,只要在操作過程中修改共享值,無論業務正常,回退,還是異常,版本號只能遞增,不能回退遞減。每次通過比較數據的版本號來查看此數據是否被修改過。

@Mapper
public interface ProductMapper {

    @Select("SELECT id, product_name as productName, stock, price, version, note FROM t_product where id=#{id}")
    ProductPo getProduct(Long id);

    //********************change******************************
    @Update("UPDATE t_product SET stock = stock - #{quantity}, version = version + 1 WHERE id = #{id} and version = #{version}")
    int decreaseProduct(@Param("id") Long id, @Param("quantity") int quantity, @Param("version") int version);
}
     @Override
     // 啟動Spring數據庫事務機制
     @Transactional
     public boolean purchase(Long userId, Long productId, int quantity) {
         // 獲取產品
         ProductPo product = productMapper.getProduct(productId);
         // 比較庫存和購買數量
         if (product.getStock() < quantity) {
         // 庫存不足
         return false;
         }
         //**************************change*******************************
         // 扣減庫存,加入了version
         productMapper.decreaseProduct(productId, quantity, product.getVersion());
         //***************************************************************
         // 初始化購買記錄
         PurchaseRecordPo pr = this.initPurchaseRecord(userId, product, quantity);
         // 插入購買記錄
         purchaseRecordMapper.insertPurchaseRecord(pr);
         return true;
     }
產品表

發現stock并沒有降為0,原因是加入了版本號的判斷,所以大量的請求得到了失敗的結果,而且失敗率有點高。要解決這個方法,就設定為如果失敗,就重試,直至成功,但是這樣又會造成大量SQL執行,影響性能,所以一般可以使用限制時間或者重入次數的方法來克服。

時間戳限制重入的樂觀鎖:

將一個請求限制在100ms的生存期,如果在100ms內發生版本號沖突而導致不能更新的,則會重新嘗試請求,否則請求失敗。

修改service下PurchaseserviceImpl的purchase方法

 @Override
     // 啟動Spring數據庫事務機制
     @Transactional
     public boolean purchase(Long userId, Long productId, int quantity) {

         long start = System.currentTimeMillis();
         while (true){
             long end = System.currentTimeMillis();
             if (end - start >100){
                 return false;
             }
             // 獲取產品
             ProductPo product = productMapper.getProduct(productId);
             // 比較庫存和購買數量
             if (product.getStock() < quantity) {
                 // 庫存不足
                 return false;
             }
             // 扣減庫存
             int result = productMapper.decreaseProduct(productId, quantity, product.getVersion());

             // 如果數據更新失敗,說明數據在多線程中被其他線程修改
             // 導致失敗,著通過循環重入嘗試購買商品
             if (result == 0){
                 continue;
             }
             // 初始化購買記錄
             PurchaseRecordPo pr = this.initPurchaseRecord(userId, product, quantity);
             // 插入購買記錄
             purchaseRecordMapper.insertPurchaseRecord(pr);
             return true;
         }
     }

這種方法在測試中效果并不是很好,執行速度很慢,沖突現象并沒有減少,反而增多,可能是我測試方法并不好,只開了三個網頁來模擬并發,不太懂JS,Demo用的JS是發送異步請求的,但用單窗口測試了好多次都沒出現超發現象,只能人肉模擬并發。

限定次數重入的樂觀鎖:

     @Override
     // 啟動Spring數據庫事務機制
     @Transactional
     public boolean purchase(Long userId, Long productId, int quantity) {

         long start = System.currentTimeMillis();
         for (int i=0; i<3; i++){
             // 獲取產品
             ProductPo product = productMapper.getProduct(productId);
             // 比較庫存和購買數量
             if (product.getStock() < quantity) {
                 // 庫存不足
                 return false;
             }
             // 扣減庫存
             int result = productMapper.decreaseProduct(productId, quantity, product.getVersion());

             // 如果數據更新失敗,說明數據在多線程中被其他線程修改
             // 導致失敗,著通過循環重入嘗試購買商品
             if (result == 0){
                 continue;
             }
             // 初始化購買記錄
             PurchaseRecordPo pr = this.initPurchaseRecord(userId, product, quantity);
             // 插入購買記錄
             purchaseRecordMapper.insertPurchaseRecord(pr);
             return true;
         }
         return false;
     }

這種方式比上一種限定時間好,速度和單純使用樂觀鎖差不多,并且消除了沖突。

3、Redis處理高并發

在高并發環境中,直接操作數據庫的方式過于緩慢,因為數據庫是一個寫入磁盤的過程,這個速度沒有寫入內存的Redis快,Redis的機制也能夠幫助我們克服超發現象,但是,因為其命令方式運算能力比較薄弱,所以往往采用Redis Lua去代替它原有的命令方式。Redis Lua在Redis的執行中是局內原子性的,但他被執行時不會被其他客戶端發送過來的命令打斷,通過這樣一種機制,可以在需要高并發的環境下考慮使用Redis去代替數據庫作為響應用戶的數據載體。但是Redis存儲具有不穩定性,所以還需要有一定的機制將Redis存儲的數據刷入數據庫。

下面先來配置一下Redis:

application.properties

#配置redis
spring.redis.jedis.pool.min-idle=5
spring.redis.jedis.pool.max-active=10
spring.redis.jedis.pool.max-idle=10
spring.redis.jedis.pool.max-wait=2000
spring.redis.port=6379
spring.redis.host=127.0.0.1
#我的Redis沒有密碼
#spring.redis.password=123456
spring.redis.timeout=1000

pom.xml

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis</artifactId>
    <version>2.1.4.RELEASE</version>
    <exclusions>
        <!--不依賴Redis的異步客戶端lettuce -->
        <exclusion>
            <groupId>io.lettuce</groupId>
            <artifactId>lettuce-core</artifactId>
        </exclusion>
    </exclusions>
</dependency>
<!--引入Redis的客戶端驅動jedis -->
<dependency>
    <groupId>redis.clients</groupId>
    <artifactId>jedis</artifactId>
</dependency>

PurchaseServiceImpl.java,使用Redis Lua響應請求

@Service
public class PurchaseServiceImpl implements PurchaseService {


    @Autowired
    private ProductMapper productMapper = null;

    @Autowired
    private PurchaseRecordMapper purchaseRecordMapper = null;
   
    private PurchaseRecordPo initPurchaseRecord(Long userId, ProductPo product, int quantity) {
        PurchaseRecordPo pr = new PurchaseRecordPo();
        pr.setNote("購買日志,時間:" + System.currentTimeMillis());
        pr.setPrice(product.getPrice());
        pr.setProductId(product.getId());
        pr.setQuantity(quantity);
        double sum = product.getPrice() * quantity;
        pr.setSum(sum);
        pr.setUserId(userId);
        return pr;
    }

    @Autowired
    StringRedisTemplate stringRedisTemplate = null;
    String purchaseScript =
            // 先將產品編號保存到集合中
            " redis.call('sadd', KEYS[1], ARGV[2]) \n"
                    // 購買列表
                    + "local productPurchaseList = KEYS[2]..ARGV[2] \n"
                    // 用戶編號
                    + "local userId = ARGV[1] \n"
                    // 產品key
                    + "local product = 'product_'..ARGV[2] \n"
                    // 購買數量
                    + "local quantity = tonumber(ARGV[3]) \n"
                    // 當前庫存
                    + "local stock = tonumber(redis.call('hget', product, 'stock')) \n"
                    // 價格
                    + "local price = tonumber(redis.call('hget', product, 'price')) \n"
                    // 購買時間
                    + "local purchase_date = ARGV[4] \n"
                    // 庫存不足,返回0
                    + "if stock < quantity then return 0 end \n"
                    // 減庫存
                    + "stock = stock - quantity \n"
                    + "redis.call('hset', product, 'stock', tostring(stock)) \n"
                    // 計算價格
                    + "local sum = price * quantity \n"
                    // 合并購買記錄數據
                    + "local purchaseRecord = userId..','..quantity..','"
                    + "..sum..','..price..','..purchase_date \n"
                    // 保存到將購買記錄保存到list里
                    + "redis.call('rpush', productPurchaseList, purchaseRecord) \n"
                    // 返回成功
                    + "return 1 \n";
    // Redis購買記錄集合前綴
    private static final String PURCHASE_PRODUCT_LIST = "purchase_list_";
    // 搶購商品集合
    private static final String PRODUCT_SCHEDULE_SET = "product_schedule_set";
    // 32位SHA1編碼,第一次執行的時候先讓Redis進行緩存腳本返回
    private String sha1 = null;

    @Override
    public boolean purchaseRedis(Long userId, Long productId, int quantity) {
        // 購買時間
        Long purchaseDate = System.currentTimeMillis();
        Jedis jedis = null;
        try {
            // 獲取原始連接
            jedis = (Jedis) stringRedisTemplate
                    .getConnectionFactory().getConnection().getNativeConnection();
            // 如果沒有加載過,則先將腳本加載到Redis服務器,讓其返回sha1
            if (sha1 == null) {
                sha1 = jedis.scriptLoad(purchaseScript);
            }
            // 執行腳本,返回結果
            Object res = jedis.evalsha(sha1, 2, PRODUCT_SCHEDULE_SET,
                    PURCHASE_PRODUCT_LIST, userId + "", productId + "",
                    quantity + "", purchaseDate + "");
            Long result = (Long) res;
            return result == 1;
        } finally {
            // 關閉jedis連接
            if (jedis != null && jedis.isConnected()) {
                jedis.close();
            }
        }
    }

    @Override
    // 當運行方法啟用新的獨立事務運行
    @Transactional(propagation = Propagation.REQUIRES_NEW)
    // 保存購買記錄,持久化到數據庫
    public boolean dealRedisPurchase(List<PurchaseRecordPo> prpList) {
        for (PurchaseRecordPo prp : prpList) {
            purchaseRecordMapper.insertPurchaseRecord(prp);
            productMapper.decreaseProduct(prp.getProductId(), prp.getQuantity());
        }
        return true;
    }
}

使用定時機制,定時將數據持久化到數據庫:

首先設置啟動文件:

@SpringBootApplication(scanBasePackages = "com.wayne.springboot")
@MapperScan(annotationClass = Mapper.class, basePackages = "com.wayne.springboot")
// 啟動springboot的定時機制,為此需要一個定時的方法來提供服務
// 把Redis的數據導入到數據庫
@EnableScheduling
public class SpringBootShoppingApplication{

    public static void main(String[] args) {
        SpringApplication.run(SpringBootShoppingApplication.class, args);
    }
}

一個定時的方法來提供服務把Redis的數據導入到數據庫:

import com.wayne.springboot.pojo.PurchaseRecordPo;
import com.wayne.springboot.service.PurchaseService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.data.redis.core.BoundListOperations;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.scheduling.annotation.Scheduled;
import org.springframework.stereotype.Service;

import java.sql.Timestamp;
import java.util.ArrayList;
import java.util.List;
import java.util.Set;

@Service
public class TaskServiceImpl implements TaskService {
    @Autowired
    private StringRedisTemplate stringRedisTemplate = null;
    @Autowired
    private PurchaseService purchaseService = null;

    private static final String PRODUCT_SCHEDULE_SET = "product_schedule_set";
    private static final String PURCHASE_PRODUCT_LIST = "purchase_list_";
    // 每次取出1000條,避免一次取出消耗太多內存
    private static final int ONE_TIME_SIZE = 1000;

    @Override
    // 每天半夜1點鐘開始執行任務
//    @Scheduled(cron = "0 0 1 * * ?")
    // 下面是用于測試的配置,每分鐘執行一次任務
    @Scheduled(fixedRate = 1000 * 30)
    public void purchaseTask() {
        System.out.println("定時任務開始......");
        Set<String> productIdList
                = stringRedisTemplate.opsForSet().members(PRODUCT_SCHEDULE_SET);
        List<PurchaseRecordPo> prpList =new ArrayList<>();
        for (String productIdStr : productIdList) {
            Long productId = Long.parseLong(productIdStr);
            String purchaseKey = PURCHASE_PRODUCT_LIST + productId;
            BoundListOperations<String, String> ops
                    = stringRedisTemplate.boundListOps(purchaseKey);
            // 計算記錄數
            long size = stringRedisTemplate.opsForList().size(purchaseKey);
            Long times = size % ONE_TIME_SIZE == 0 ?
                    size / ONE_TIME_SIZE : size / ONE_TIME_SIZE + 1;
            for (int i = 0; i < times; i++) {
                // 獲取至多TIME_SIZE個搶紅包信息
                List<String> prList = null;
                if (i == 0) {
                    prList  = ops.range(i * ONE_TIME_SIZE,
                            (i + 1) * ONE_TIME_SIZE);
                } else {
                    prList = ops.range(i * ONE_TIME_SIZE + 1,
                            (i + 1) * ONE_TIME_SIZE);
                }
                for (String prStr : prList) {
                    PurchaseRecordPo prp
                            = this.createPurchaseRecord(productId, prStr);
                    prpList.add(prp);
                }
                try {
                    // 采用該方法采用新建事務的方式,這樣不會導致全局事務回滾
                    purchaseService.dealRedisPurchase(prpList);
                } catch(Exception ex) {
                    ex.printStackTrace();
                }
                // 清除列表為空,等待重新寫入數據
                prpList.clear();
            }
            // 刪除購買列表

            stringRedisTemplate.delete(purchaseKey);
            // 從商品集合中刪除商品
            stringRedisTemplate.opsForSet()
                    .remove(PRODUCT_SCHEDULE_SET, productIdStr);
        }
        System.out.println("定時任務結束......");
    }

    private PurchaseRecordPo createPurchaseRecord(
        Long productId, String prStr) {
        String[] arr = prStr.split(",");
        Long userId = Long.parseLong(arr[0]);
        int quantity = Integer.parseInt(arr[1]);
        double sum = Double.valueOf(arr[2]);
        double price = Double.valueOf(arr[3]);
        Long time = Long.parseLong(arr[4]);
        Timestamp purchaseTime = new Timestamp(time);
        PurchaseRecordPo pr = new PurchaseRecordPo();
        pr.setProductId(productId);
        pr.setPurchaseTime(purchaseTime);
        pr.setPrice(price);
        pr.setQuantity(quantity);
        pr.setSum(sum);
        pr.setUserId(userId);
        pr.setNote("購買日志,時間:" + purchaseTime.getTime());
        return pr;
    }
}

到這里基本完成,啟動項目前先啟動redis服務器,并初始化Redis:

hmset product_1 id 1 stock 10000 price 2.00

然后啟動并訪問瀏覽器localhost:8080/test,因為設定的間隔為30s,所以等30s去查看數據庫。性能相比之前要快上數倍。

產品表

源碼存放在github-spring-boot-shopping

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,461評論 6 532
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,538評論 3 417
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,423評論 0 375
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,991評論 1 312
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,761評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,207評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,268評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,419評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,959評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,782評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,983評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,528評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,222評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,653評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,901評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,678評論 3 392
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,978評論 2 374

推薦閱讀更多精彩內容