一、簡(jiǎn)述

一條查詢(xún)語(yǔ)句的執(zhí)行過(guò)程一般是經(jīng)過(guò)連接器、分析器、優(yōu)化器、執(zhí)行器等功能模塊，最后到達(dá)存儲(chǔ)引擎。一條更新語(yǔ)句的執(zhí)行流程又是怎樣的呢？

MySQL 可以恢復(fù)到某個(gè)時(shí)間段內(nèi)任意一秒的狀態(tài)，這是怎樣做到的呢？

從一個(gè)表的一條更新語(yǔ)句說(shuō)起，下面是這個(gè)表的創(chuàng)建語(yǔ)句，這個(gè)表有一個(gè)主鍵 ID 和一個(gè)整型字段 c：

mysql> create table T(ID int primary key, c int);

如果要將 ID=2 這一行的值加 1，SQL 就會(huì)這么寫(xiě)：

mysql> update T set c=c+1 where ID=2;

執(zhí)行語(yǔ)句前要先連接數(shù)據(jù)庫(kù)，這是連接器的工作。

在一個(gè)表上有更新的時(shí)候，跟這個(gè)表有關(guān)的查詢(xún)緩存會(huì)失效，所以這條語(yǔ)句就會(huì)把表 T 上所有緩存結(jié)果都清空。這也就是一般不建議使用查詢(xún)緩存的原因。MySQL 8.0 版本刪掉了查詢(xún)緩存的整塊功能，也就是說(shuō) 8.0 開(kāi)始該功能徹底消失了。

接下來(lái)，分析器會(huì)通過(guò)詞法和語(yǔ)法解析知道這是一條更新語(yǔ)句。優(yōu)化器決定要使用 ID 這個(gè)索引。然后，執(zhí)行器負(fù)責(zé)具體執(zhí)行，找到這一行，然后更新。

與查詢(xún)流程不一樣的是，更新流程還涉及兩個(gè)重要的日志模塊：redo log(重做日志)和 binlog(歸檔日志)。

二、InnoDB 引擎特有的日志：redo log

《孔乙己》中咸亨酒店掌柜有一個(gè)粉板，專(zhuān)門(mén)用來(lái)記錄客人的賒賬記錄。如果賒賬的人不多，那么他可以把顧客名和賬目寫(xiě)在板上。但如果賒賬的人多了，粉板總會(huì)有記不下的時(shí)候，這個(gè)時(shí)候掌柜一定還有一個(gè)專(zhuān)門(mén)記錄賒賬的賬本。

如果有人要賒賬或者還賬的話，掌柜一般有兩種做法：

• 一種做法是直接把賬本翻出來(lái)，把這次賒的賬加上去或者扣除掉；
• 另一種做法是先在粉板上記下這次的賬，等打烊以后再把賬本翻出來(lái)核算。

柜臺(tái)很忙時(shí)，掌柜一定會(huì)選擇后者，因?yàn)榍罢卟僮鲗?shí)在是太麻煩了。首先，得找到這個(gè)人的賒賬總額那條記錄。密密麻麻幾十頁(yè)，掌柜要找到那個(gè)名字，可能還得帶上老花鏡慢慢找，找到之后再拿出算盤(pán)計(jì)算，最后再將結(jié)果寫(xiě)回到賬本上。

整個(gè)過(guò)程想想都麻煩。相比之下，還是先在粉板上記一下方便。如果掌柜沒(méi)有粉板的幫助，每次記賬都得翻賬本，效率是不是低得讓人難以忍受？

同樣，在 MySQL 里也有這個(gè)問(wèn)題，如果每一次的更新操作都需要寫(xiě)進(jìn)磁盤(pán)，然后磁盤(pán)也要找到對(duì)應(yīng)的那條記錄，然后再更新，整個(gè)過(guò)程 IO 成本、查找成本都很高。為了解決這個(gè)問(wèn)題，MySQL 的設(shè)計(jì)者就用了類(lèi)似酒店掌柜粉板的思路來(lái)提升更新效率。

粉板和賬本配合的整個(gè)過(guò)程，其實(shí)就是 MySQL 的 WAL (Write-Ahead Logging)技術(shù)。關(guān)鍵點(diǎn)就是先寫(xiě)日志再寫(xiě)磁盤(pán)，也就是先寫(xiě)粉板，不忙的時(shí)候再寫(xiě)賬本。

具體來(lái)說(shuō)，當(dāng)有一條記錄需要更新的時(shí)候，InnoDB 引擎就會(huì)先把記錄寫(xiě)到 redo log(粉板)里面，并更新內(nèi)存，這個(gè)時(shí)候更新就算完成了。同時(shí)，InnoDB 引擎會(huì)在適當(dāng)?shù)臅r(shí)候，將這個(gè)操作記錄更新到磁盤(pán)里面，而這個(gè)更新往往是在系統(tǒng)比較空閑的時(shí)候做，這就像打烊以后掌柜做的事。

如果今天賒賬的不多，掌柜可以等打烊后再整理。但如果賒賬的特別多，粉板寫(xiě)滿了，又怎么辦呢？這個(gè)時(shí)候掌柜只好放下手中的活兒，把粉板中的一部分賒賬記錄更新到賬本中，然后把這些記錄從粉板上擦掉，為記新賬騰出空間。

write pos 是當(dāng)前記錄的位置，一邊寫(xiě)一邊后移，寫(xiě)到第 3 號(hào)文件末尾后就回到 0 號(hào)文件開(kāi)頭。checkpoint 是當(dāng)前要擦除的位置，也是往后推移并且循環(huán)的，擦除記錄前要把記錄更新到數(shù)據(jù)文件。

write pos 和 checkpoint 之間的是“粉板”上還空著的部分，可以用來(lái)記錄新的操作。如果 write pos 追上 checkpoint，表示“粉板”滿了，此時(shí)不能再執(zhí)行新的更新，得停下來(lái)先擦掉一些記錄，把 checkpoint 推進(jìn)一下。

有了 redo log，InnoDB 就可以保證即使數(shù)據(jù)庫(kù)發(fā)生異常重啟，之前提交的記錄都不會(huì)丟失，這個(gè)能力稱(chēng)為 crash-safe。

要理解 crash-safe 這個(gè)概念，可以想想前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上，之后即使掌柜忘記了，比如突然停業(yè)幾天，恢復(fù)生意后依然可以通過(guò)賬本和粉板上的數(shù)據(jù)明確賒賬賬目。

三、Server 層的日志模塊：binlog

MySQL 整體來(lái)看，其實(shí)就有兩塊：一塊是 Server 層，它主要做的是 MySQL 功能層面的事情；還有一塊是引擎層，負(fù)責(zé)存儲(chǔ)相關(guān)的具體事宜。上面的粉板(redo log)是 InnoDB 引擎特有的日志，而 Server 層也有自己的日志，稱(chēng)為 binlog(歸檔日志)。

1??為什么會(huì)有兩份日志呢？

因?yàn)樽铋_(kāi)始 MySQL 里并沒(méi)有 InnoDB 引擎。MySQL 自帶的引擎是 MyISAM，但是 MyISAM 沒(méi)有 crash-safe 的能力，binlog 日志只能用于歸檔。而 InnoDB 是另一個(gè)公司以插件形式引入 MySQL 的，既然只依靠 binlog 是沒(méi)有 crash-safe 能力的，所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來(lái)實(shí)現(xiàn) crash-safe 能力。

2??這兩種日志有以下三點(diǎn)不同：

1. redo log 是 InnoDB 引擎特有的；binlog 是 MySQL 的 Server 層實(shí)現(xiàn)的，所有引擎都可以使用。

2. redo log 是物理日志，記錄的是“在某個(gè)數(shù)據(jù)頁(yè)上做了什么修改”。binlog 是邏輯日志，記錄的是這個(gè)語(yǔ)句的原始邏輯，比如“給ID=2這一行的c字段加1 ”。

3. redo log 是循環(huán)寫(xiě)的，空間固定會(huì)用完；binlog 是可以追加寫(xiě)入的?！白芳訉?xiě)”是指 binlog 文件寫(xiě)到一定大小后會(huì)切換到下一個(gè)，并不會(huì)覆蓋以前的日志。

3??有了對(duì)這兩個(gè)日志的概念性理解，再來(lái)看執(zhí)行器和 InnoDB 引擎在執(zhí)行這個(gè)簡(jiǎn)單的 update 語(yǔ)句時(shí)的內(nèi)部流程。

1. 執(zhí)行器先找引擎取 ID=2 這一行。ID 是主鍵，引擎直接用樹(shù)搜索找到這一行。如果 ID=2 這一行所在的數(shù)據(jù)頁(yè)本來(lái)就在內(nèi)存中，就直接返回給執(zhí)行器；否則，需要先從磁盤(pán)讀入內(nèi)存，然后再返回。

2. 執(zhí)行器拿到引擎給的行數(shù)據(jù)，把這個(gè)值加上 1，比如原來(lái)是 N，現(xiàn)在就是 N+1，得到新的一行數(shù)據(jù)，再調(diào)用引擎接口寫(xiě)入這行新數(shù)據(jù)。

3. 引擎將這行新數(shù)據(jù)更新到內(nèi)存中，同時(shí)將這個(gè)更新操作記錄到 redo log 里面，此時(shí) redo log 處于 prepare 狀態(tài)。然后告知執(zhí)行器執(zhí)行完成了，隨時(shí)可以提交事務(wù)。

4. 執(zhí)行器生成這個(gè)操作的 binlog，并把 binlog 寫(xiě)入磁盤(pán)。

5. 執(zhí)行器調(diào)用引擎的提交事務(wù)接口，引擎把剛剛寫(xiě)入的 redo log 改成提交(commit)狀態(tài)，更新完成。

最后三步看上去有點(diǎn)“繞”，將 redo log 的寫(xiě)入拆成了兩個(gè)步驟：prepare 和 commit，這就是"兩階段提交"。

四、兩階段提交

為什么必須有“兩階段提交”呢？這是為了讓兩份日志之間的邏輯一致。要說(shuō)明這個(gè)問(wèn)題，就從文章開(kāi)頭的那個(gè)問(wèn)題說(shuō)起：怎樣讓數(shù)據(jù)庫(kù)恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)？

前面說(shuō)過(guò)，binlog 會(huì)記錄所有的邏輯操作，并且是采用“追加寫(xiě)”的形式。如果 DBA 承諾說(shuō)半個(gè)月內(nèi)可以恢復(fù)，那么備份系統(tǒng)中一定會(huì)保存最近半個(gè)月的所有 binlog，同時(shí)系統(tǒng)會(huì)定期做整庫(kù)備份。這里的“定期”取決于系統(tǒng)的重要性，可以是一天一備，也可以是一周一備。

當(dāng)需要恢復(fù)到指定的某一秒時(shí)，比如某天下午兩點(diǎn)發(fā)現(xiàn)中午十二點(diǎn)有一次誤刪表，需要找回?cái)?shù)據(jù)，可以這么做：

1. 首先，找到最近的一次全量備份，如果運(yùn)氣好，可能就是昨天晚上的一個(gè)備份，從這個(gè)備份恢復(fù)到臨時(shí)庫(kù)；
2. 然后，從備份的時(shí)間點(diǎn)開(kāi)始，將備份的 binlog 依次取出來(lái)，重放到中午誤刪表之前的那個(gè)時(shí)刻。
3. 這樣臨時(shí)庫(kù)就跟誤刪之前的線上庫(kù)一樣了，然后把表數(shù)據(jù)從臨時(shí)庫(kù)取出來(lái)，按需要恢復(fù)到線上庫(kù)去。

為什么日志需要“兩階段提交”。這里用反證法來(lái)進(jìn)行解釋。

由于 redo log 和 binlog 是兩個(gè)獨(dú)立的邏輯，如果不用兩階段提交，要么就是先寫(xiě)完 redo log 再寫(xiě) binlog，或者采用反過(guò)來(lái)的順序?？纯催@兩種方式會(huì)有什么問(wèn)題。

仍然用前面的 update 語(yǔ)句來(lái)做例子。假設(shè)當(dāng)前 ID=2 的行，字段 c 的值是 0，再假設(shè)執(zhí)行 update 語(yǔ)句過(guò)程中在寫(xiě)完第一個(gè)日志后，第二個(gè)日志還沒(méi)有寫(xiě)完期間發(fā)生了 crash，會(huì)出現(xiàn)什么情況呢？

先寫(xiě) redo log 后寫(xiě) binlog。假設(shè)在 redo log 寫(xiě)完，binlog 還沒(méi)有寫(xiě)完的時(shí)候，MySQL 進(jìn)程異常重啟。前面說(shuō)過(guò)，redo log 寫(xiě)完之后，系統(tǒng)即使崩潰，仍然能夠把數(shù)據(jù)恢復(fù)回來(lái)，所以恢復(fù)后這一行 c 的值是 1。
但是由于 binlog 沒(méi)寫(xiě)完就 crash 了，這時(shí)候 binlog 里面就沒(méi)有記錄這個(gè)語(yǔ)句。因此，之后備份日志的時(shí)候，存起來(lái)的 binlog 里面就沒(méi)有這條語(yǔ)句。
然后如果用這個(gè) binlog 來(lái)恢復(fù)臨時(shí)庫(kù)，由于這個(gè)語(yǔ)句的 binlog 丟失，這個(gè)臨時(shí)庫(kù)就會(huì)少了這一次更新，恢復(fù)出來(lái)的這一行 c 的值就是 0，與原庫(kù)的值不同。

先寫(xiě) binlog 后寫(xiě) redo log。如果在 binlog 寫(xiě)完之后 crash，由于 redo log 還沒(méi)寫(xiě)，崩潰恢復(fù)以后這個(gè)事務(wù)無(wú)效，所以這一行 c 的值是 0。但是 binlog 里面已經(jīng)記錄了“把c從0改成1”這個(gè)日志。所以，在之后用 binlog 來(lái)恢復(fù)的時(shí)候就多了一個(gè)事務(wù)出來(lái)，恢復(fù)出來(lái)的這一行 c 的值就是 1，與原庫(kù)的值不同。

可以看到，如果不使用“兩階段提交”，那么數(shù)據(jù)庫(kù)的狀態(tài)就有可能和用它的日志恢復(fù)出來(lái)的庫(kù)的狀態(tài)不一致。

不只是誤操作后需要用這個(gè)過(guò)程來(lái)恢復(fù)數(shù)據(jù)。當(dāng)需要擴(kuò)容的時(shí)候，也就是需要再多搭建一些備庫(kù)來(lái)增加系統(tǒng)的讀能力的時(shí)候，現(xiàn)在常見(jiàn)的做法也是用全量備份加上應(yīng)用 binlog 來(lái)實(shí)現(xiàn)的，這個(gè)“不一致”就會(huì)導(dǎo)致線上出現(xiàn)主從數(shù)據(jù)庫(kù)不一致的情況。

簡(jiǎn)單說(shuō)，redo log 和 binlog 都可以用于表示事務(wù)的提交狀態(tài)，而兩階段提交就是讓這兩個(gè)狀態(tài)保持邏輯上的一致。

五、小結(jié)

1??redo log 用于保證 crash-safe 能力。innodb_flush_log_at_trx_commit 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候，表示每次事務(wù)的 redo log 都直接持久化到磁盤(pán)。這個(gè)參數(shù)建議設(shè)置成 1，這樣可以保證 MySQL 異常重啟之后數(shù)據(jù)不丟失。

2??sync_binlog 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候，表示每次事務(wù)的 binlog 都持久化到磁盤(pán)。這個(gè)參數(shù)也建議設(shè)置成 1，這樣可以保證 MySQL 異常重啟之后 binlog 不丟失。

3??兩階段提交是跨系統(tǒng)維持?jǐn)?shù)據(jù)邏輯一致性時(shí)常用的一個(gè)方案，即使不做數(shù)據(jù)庫(kù)內(nèi)核開(kāi)發(fā)，日常開(kāi)發(fā)中也有可能會(huì)用到。