本文的初衷僅供自己做備忘筆記, 內容大多從網上搜集和整理, 并非都是自己原創.
參考的來源我會在后面注明, 對于可能遺漏的來源, 還請相關原創作者提醒, 非常感謝.
一、行記錄格式的分類和介紹
在早期的InnoDB版本中,由于文件格式只有一種,因此不需要為此文件格式命名。隨著InnoDB引擎的發展,開發出了不兼容早期版本的新文件格式,用于支持新的功能。為了在升級和降級情況下幫助管理系統的兼容性,以及運行不同的MySQL版本,InnoDB開始使用命名的文件格式。
- Antelope: 先前未命名的,原始的InnoDB文件格式。它支持兩種行格式:COMPACT 和 REDUNDANT。MySQL5.6的默認文件格式。可以與早期的版本保持最大的兼容性。不支持 Barracuda 文件格式。
- Barracuda: 新的文件格式。它支持InnoDB的所有行格式,包括新的行格式:COMPRESSED 和 DYNAMIC。與這兩個新的行格式相關的功能包括:InnoDB表的壓縮,長列數據的頁外存儲和索引建前綴最大長度為3072字節。
在 msyql 5.7.9 及以后版本,默認行格式由innodb_default_row_format變量決定,它的默認值是DYNAMIC,也可以在 create table 的時候指定ROW_FORMAT=DYNAMIC。用戶可以通過命令 SHOW TABLE STATUS LIKE'table_name' 來查看當前表使用的行格式,其中 row_format 列表示當前所使用的行記錄結構類型。
PS:如果要修改現有表的行模式為compressed或dynamic,必須先將文件格式設置成Barracuda:set global innodb_file_format=Barracuda;,再用ALTER TABLE tablename ROW_FORMAT=COMPRESSED;去修改才能生效。
mysql> show variables like "innodb_file_format";
+--------------------+-----------+
| Variable_name | Value |
+--------------------+-----------+
| innodb_file_format | Barracuda |
+--------------------+-----------+
1 row in set (0.00 sec)
mysql> show table status like "test%"\G
*************************** 1. row ***************************
Name: test
Engine: MyISAM
Version: 10
Row_format: Dynamic
Rows: 4
Avg_row_length: 20
Data_length: 80
Max_data_length: 281474976710655
Index_length: 1024
Data_free: 0
Auto_increment: NULL
Create_time: 2018-08-07 13:07:59
Update_time: 2018-08-07 13:08:01
Check_time: NULL
Collation: utf8_general_ci
Checksum: NULL
Create_options: row_format=DYNAMIC
Comment:
二、InnoDB行存儲
InnoDB表的數據存儲在頁(page)中,每個頁可以存放多條記錄。這些頁以樹形結構組織,這顆樹稱為B樹索引。表中數據和輔助索引都是使用B樹結構。維護表中所有數據的這顆B樹索引稱為聚簇索引,通過主鍵來組織的。聚簇索引的葉子節點包含行中所有字段的值,輔助索引的葉子節點包含索引列和主鍵列。
變長字段是個例外,例如對于BLOB和VARCHAR類型的列,當頁不能完全容納此列的數據時,會將此列的數據存放在稱為溢出頁(overflow page)的單獨磁盤頁上,稱這些列為頁外列(off-page column)。這些列的值存儲在以單鏈表形式存在的溢出頁列表中,每個列都有自己溢出頁列表。某些情況下,為了避免浪費存儲空間和消除讀取分隔頁,列的所有或前綴數據會存儲在B+樹索引中。
三、Compact 和 Redundant
Compact
Compact行記錄是在MySQL5.0中引入的,為了高效的存儲數據,簡單的說,就是為了讓一個頁(Page)存放的行數據越多,這樣性能就越高。行記錄格式如下:
- 變長字段長度列表:變長字段長度最大不超過2字節(MySQL數據庫varcahr類型的最大長度限制為65535)
- NULL標識位:該位指示了該行數據中是否有NULL值,有則用1。
-
記錄頭信息:固定占用5字節(40位)
3c04fd5b.png - 列N數據:實際存儲每列的數據,NULL不占該部分任何空間,即NULL占有NULL標志位,實際存儲不占任何空間。
PS:每一行數據除了用戶定義的例外,還有兩個隱藏列,事物ID列和回滾指針列,分別位6字節和7字節的大小,若InnoDB表沒有定義主鍵,每行還未增加一個6字節的rowid列。
Redundant
MySQL5.0之前的行記錄格式:
- 字段偏移列表:同樣是按照列的順序逆序放置的,若列的長度小于255字節,用1字節表示,若大于255字節,用2字節表示。
-
記錄頭信息:占用6字節(48位)
a289c32b.png
行溢出數據
- 當行記錄的長度沒有超過行記錄最大長度時,所有數據都會存儲在當前頁。
-
當行記錄的長度超過行記錄最大長度時,變長列(variable-length column)會選擇外部溢出頁(overflow page,一般是Uncompressed BLOB Page)進行存儲。
Compact + Redundant:保留前768Byte在當前頁(B+Tree葉子節點),其余數據存放在溢出頁。768Byte后面跟著20Byte的數據,用來存儲指向溢出頁的指針。
對于 Compact 和 Redundant 行格式,InnoDB將變長字段(VARCHAR, VARBINARY, BLOB 和 TEXT)的前786字節存儲在B+樹節點中,其余的數據存放在溢出頁(off-page),如下圖:
3fc36539.png
上面所講的講的blob或變長大字段類型包括blob,text,varchar,其中varchar列值長度大于某數N時也會存溢出頁,在latin1字符集下N值可以這樣計算:innodb的塊大小默認為16kb,由于innodb存儲引擎表為索引組織表,樹底層的葉子節點為一雙向鏈表,因此每個頁中至少應該有兩行記錄,這就決定了innodb在存儲一行數據的時候不能夠超過8k,減去其它列值所占字節數,約等于N。
使用Antelope文件格式,若字段的值小于等于786字節,不需要溢出頁,因為字段的值都在B+樹節點中,所以會降低I/O操作。這對于相對較短的BLOB字段有效,但可能由于B+樹節點存儲過多的數據而導致效率低下。
Compressed 和 Dynamic
InnoDB1.0x開始引入心的文件格式(file format,用戶可以理解位新的頁格式)——Barracuda(圖1),這個新的格式擁有兩種新的行記錄格式:Compressed和Dynamic。
新的兩種記錄格式對于存放BLOB中的數據采用了完全的行溢出的方式。如圖:
Dynamic行格式,列存儲是否放到off-page頁,主要取決于行大小,他會把行中最長的一列放到off-page,直到數據頁能存放下兩行。TEXT或BLOB列<=40bytes時總是存在于數據頁。這種方式可以避免compact那樣把太多的大列值放到B-tree Node(數據頁中只存放20個字節的指針,實際的數據存放在Off Page中,之前的Compact 和 Redundant 兩種格式會存放768個字前綴字節)。
Compressed物理結構上與Dynamic類似,Compressed行記錄格式的另一個功能就是存儲在其中的行數據會以zlib的算法進行壓縮,因此對于BLOB、TEXT、VARCHAR這類大長度數據能夠進行有效的存儲(減少40%,但對CPU要求更高)。