一、GTID的概述：

1、全局事物標識：global transaction identifieds。

2、GTID事物是全局唯一性的，且一個事務對應一個GTID。

3、一個GTID在一個服務器上只執行一次，避免重復執行導致數據混亂或者主從不一致。

4、GTID用來代替classic的復制方法，不在使用binlog+pos開啟復制。而是使用master_auto_postion=1的方式自動匹配GTID斷點進行復制。

5、MySQL-5.6.5開始支持的，MySQL-5.6.10后開始完善。

6、在傳統的slave端，binlog是不用開啟的，但是在GTID中，slave端的binlog是必須開啟的，目的是記錄執行過的GTID（強制）。

二、GTID的組成部分：

前面是server_uuid：后面是一個序列號

例如：server_uuid：sequence number

7800a22c-95ae-11e4-983d-080027de205a:10

UUID：每個mysql實例的唯一ID，由于會傳遞到slave，所以也可以理解為源ID。

Sequence number：在每臺MySQL服務器上都是從1開始自增長的序列，一個數值對應一個事務。

三、GTID比傳統復制的優勢：

1、更簡單的實現failover，不用以前那樣在需要找log_file和log_Pos。

2、更簡單的搭建主從復制。

3、比傳統復制更加安全。

4、GTID是連續沒有空洞的，因此主從庫出現數據沖突時，可以用添加空事物的方式進行跳過。

四、GTID的工作原理：

1、master更新數據時，會在事務前產生GTID，一同記錄到binlog日志中。
2、slave端的i/o 線程將變更的binlog，寫入到本地的relay log中。
3、sql線程從relay log中獲取GTID，然后對比slave端的binlog是否有記錄。
4、如果有記錄，說明該GTID的事務已經執行，slave會忽略。
5、如果沒有記錄，slave就會從relay log中執行該GTID的事務，并記錄到binlog。
6、在解析過程中會判斷是否有主鍵，如果沒有就用二級索引，如果沒有就用全部掃描。

五、要點：

1、slave在接受master的binlog時，會校驗master的GTID是否已經執行過（一個服務器只能執行一次）。

2、為了保證主從數據的一致性，多線程只能同時執行一個GTID。

六、使用GTID搭建mysql的主從復制的主要參數：

[mysqld]
#GTID:
gtid_mode=on
enforce_gtid_consistency=on
server_id=2003306    #每天實例的server_id都要不一樣

#binlog
log-bin=mysqlbin
log-slave-updates=1   #允許下端接入slave
binlog_format=row      #強烈建議，其他格式可能造成數據不一致

#relay log
skip_slave_start=1
注意：建議使用mysql-5.6.5以上的最新版本。

啟動GTID的兩種方法：

方法一、

1、如果是在已經跑的服務器，你需要重啟一下mysql server。
2、啟動之前，一定要先關閉master的寫入，保證所有slave端都已經和master端數據保持同步。
3、所有slave需要加上skip_slave_start=1的配置參數，避免啟動后還是使用老的復制協議。

方法二、

1、如果是新搭建的服務器，直接啟動就行了。

七、master-slave搭建的注意事項：

（一）、使用GTID的方式，把salve端掛載master端：

1、啟動以后最好不要立即執行事務，而是先change master上。
2、然后在執行事務，當然知不是必須的。
3、使用下面的sql切換slave到新的master。

stop slave;

CHANGE MASTER TO
MASTER_HOST='127.0.0.1',
MASTER_PORT=3306,
MASTER_USER='repl',
MASTER_PASSWORD='repl',
master_auto_position = 1;

(二)、如果給已經運行的GTID的master端添加一個新的slave

有兩種方法：

方法一、適用于master也是新建不久的情況。

1、如果你的master所有的binlog還在。可以選擇類似于上面的方法，安裝slave，直接change master to到master端。

2、原理是直接獲取master所有的GTID并執行。

3、優點：簡單方便。

4、缺點：如果binlog太多，數據完全同步需要時間較長，并且master一開始就啟用了GTUD。

方法二、適用于擁有較大數據的情況。（推薦）

1、通過master或者其他slave的備份搭建新的slave。（看第三部分）

2、原理：獲取master的數據和這些數據對應的GTID范圍，然后通過slave設置@@global.gtid_purged跳過備份包含的gtid。

3、優點：是可以避免第一種方法的不足。

4、缺點：相對來說有點復雜。

（三）、通過備份搭建新的slave：（方法二的擴展）

兩種方法：

方法一、mysqldump的方式：

1、在備份的時候指定--master-data=2（來保存binlog的文件號和位置的命令）。
2、使用mysqldump的命令在dump文件里可以看到下面兩個信息：
  SET @@SESSION.SQL_LOG_BIN=0;
  SET @@GLOBAL.GTID_PURGED='7800a22c-95ae-11e4-983d-080027de205a:1-8';
3、將備份還原到slave后，使用change master to命令掛載master端。

注意：在mysql5.6.9以后的命令才支持這個功能。

方法二、percona Xtrabackup

1、Xtrabackup_binlog_info文件中，包含global.gtid_purged='XXXXXX:XXXX'的信息。
2、然后到slave去手工的 SET GLOBAL.GTID_PURGED='XXXXXX:XXXX'。
3、恢復備份，開啟change master to 命令。

注意：如果系統運行了很久，無法找到GTID的變好了，可以通過上面的方式進行查找。

八、GTID如何跳過事務沖突：

1、這個功能主要跳過事務，代替原來的set global sql_slave_skip_counter = 1。

2、由于在這個GTID必須是連續的，正常情況同一個服務器產生的GTID是不會存在空缺的。所以不能簡單的skip掉一個事務，只能通過注入空事物的方法替換掉一個實際操作事務。

3、注入空事物的方法：

stop slave;
set gtid_next='xxxxxxx:N';
begin;commit;
set gtid_next='AUTOMAIC';
start slave;

4、這里的xxxxx:N 也就是你的slave sql thread報錯的GTID，或者說是你想要跳過的GTID。

九、GTID的參數注釋：

[master]>show global variables like '%gtid%';

1、enforce_gtid_consistency：開啟gtid的一些安全限制（介意開啟）。

2、gtid_executed：全局和seeeion級別都可以用。用來保存已經執行過的GTIDs。
貼士：show  master status\G;輸出結果中的Executed_Gtid_Set和gitd_executed一致。reset master時，此值會被清空。

3、gtid_owned：全局和session級別都可用，全局表示所有服務器擁有GTIDs，session級別表示當前client擁有所有GTIDs。（此功能用的少）

4、gtid_mode：是否開啟GTID功能。

5、gtid_purged：全局參數，設置在binlog中，已經purged的GTIDs，并且purged掉的GTIDs會包含到gtid_executed中。

貼士：從而導致slave不會再去master請求這些GTIDs，并且Executed_Gtid_Set為空時，才可以設置此值。

6、gtid_next：這個時session級別的參數：
[master]>show session variables like '%gtid_next%';

十、關于GTID的一些功能限制：

（一）、更新非事務引擎：

1、Case重現：
master：對一個innodb表做一個多sql更新的事物，效果是產生一個GTID。
slave：對應的表是MYISAM引擎，執行這個GTID的第一個語句后就會報錯，因為非事務引擎一個sql就是一個事務。

2、錯誤編號：
last_Errno:1756

3、異常恢復方案：
（1）、簡單的stop slave; start slave;就能夠忽略錯誤。但是這個時候主從的一致性已經出現問題。需要手工的把slave差的數據補上。
（2）、首先將引擎調整為一樣的，slave也改為事務引擎。

（二）、create table ....select statements

1、case重現：
master：直接執行一個create table select * from table;的sql

2、報錯：
error 1786

3、原理：
由于create table ...select語句會生成兩個sql，一個是DDL創建表SQL，一個是insert into 插入數據的sql。由于DDL會導致自動提交，所以這個sql至少需要兩個GTID，但是GTID模式下，只能給這個sql生成一個GTID，如果強制執行會導致和上面更新非事務引擎一樣的結果。

（三）、一個sql同事操作innodb引擎和myisam引擎：

case重現：t1表是innodb，t2表是myisam
1、update t1,t2 set t1.id=1000,t2.id=1000 where t1.id=t2.id;
2、報錯：1785
3、原理和第二個相同。

（四）、在一個replication grouop 中，所有的mysql必須要統一開啟或者關閉GTID功能。

1、case重現：
將一個未開啟gtid的slave通過原始的binlog和pos方式連接到開啟GTID的master。

2、報錯：
The slave IO thread stops because the master has @@GLOBAL.GTID_MODE ON and this server has @@GLOBAL.GTID_MODE OFF。

（五）、在一個replication group中，如果開啟GTID以后，就不再允許使用classic的復制方式：

1、case重現：
將一個開啟gtid的slave通過原始的binlog和pos方式連接到開啟GTID的master。

2、報錯：
ERROR 1776(HY000)：Parameters MASTER_LOG_FILE，MASTER_LOG_POS，RELAY_LOG_FILE and RELAY_LOG_POS cannot be set when MASTER_AUTO_POSITION is active。

（六）、GTID_MODE是not online的：

需要重啟才能生效，官方暫時不支持平滑的從classic replication切換到GTID replication。
貼士：
由于GTID開啟需要重啟系統，一個復制組中所有的實例必須統一開啟或者關閉GTID,開啟GTID以后不能在使用classic復制。
問題：
也就是說在線業務必須統一關閉，然后再啟動，會導致服務中斷。

解決方案：
1、針對這種情況，社區有兩種對應的平滑升級的方案：
一種是booking.com出品，這兩個差別在淘寶9月份數據庫月報里有說明，加了一個橋接的服務器，既可以運行GTID模式下，也可以運行classic模式下。
另外一種是facebook.com出品。所有的slave可以在開啟GTID模式的情況下，可以連接到沒有開啟GTID模式的master。

2、可以關閉一個部分，停止寫操作，但是讀不用，將另一部分改成GTID模式。

（七）、Temporary tables。

1、create temporary table和drop temporary table語句一樣在GTID環境下不支持。
如果--enforce_gtid_consistency參數開啟，并且autocommit=1，那么可以使用。

（八）、關于Errant transaction

1、Errant transaction：所謂的errant transaction也就是沒有規范的從master執行，而是直接從slave執行的事務。
2、由于GTID協議的原因，最開始已經提過（參見GTID architecture）。
3、如果slave有errant transaction產生，由于GTID協議中的規則，很容易導致failover失敗。主要有兩種情況：

a、在slave上做了無用的或者臨時的errant transaction操作，如果該slave升級成為master的話，連接到它的所有數據庫都會獲取到這個事務。如果一樣就會產生沖突。

b、由于做了這個errant transaction這個事務以后，其他的slave還沒有獲取這個errant transaction的GTID，需要從master上發同步給其他的slave，但是主的binlog又被刪掉了，這時將會報錯。

4、總之：盡量避免產生errant transaction。可以通過：set sql_log_bin=off的方式在slave執行sql，但是也要考慮到數據一致性。

··············跳過錯誤
從庫已經執行過的事務是'e10c75be-5c1b-11e6-ab7c-000c296078ae:1-5',執行出錯的事務是'e10c75be-5c1b-11e6-ab7c-000c296078ae:6'，當前主備的數據其實是一致的，可以通過設置gtid_next跳過這個出錯的事務。

在從庫上執行以下SQL：

mysql> set gtid_next='e10c75be-5c1b-11e6-ab7c-000c296078ae:6';
Query OK, 0 rows affected (0.00 sec)

mysql> begin;
Query OK, 0 rows affected (0.00 sec)

mysql> commit;
Query OK, 0 rows affected (0.00 sec)

mysql> set gtid_next='AUTOMATIC';
Query OK, 0 rows affected (0.00 sec)

mysql> start slave;
Query OK, 0 rows affected (0.02 sec)

設置gtid_next的方法一次只能跳過一個事務，要批量的跳過事務可以通過設置gtid_purged完成。

十一、GTID與crash safe salve

crash safe slave是MySQL 5.6提供的功能，意思是說在slave crash后，把slave重新拉起來可以繼續從Master進行復制，不會出現復制錯誤也不會出現數據不一致。

1、基于binlog文件位置的復制

在基于binlog文件位置的復制下，要保證crash safe slave，配置下面的參數即可。
relay_log_info_repository = TABLE
relay_log_recovery = ON

這樣可行的原因是，relay_log_info_repository = TABLE時，apply event和更新relay_log_info表的操作被包含在同一個事務里，innodb要么讓它們同時生效，要么同時不生效,保證位點信息和已經應用的事務精確匹配。同時relay_log_recovery = ON時，會拋棄master_log_info中記錄的復制位點，根據relay_log_info的執行位置重新從Master獲取binlog，這就回避了由于未同步刷盤導致的binlog文件接受位置和實際不一致以及relay log文件被截斷的問題。

在同時使用MTS(multi-threaded slave)時，為保證crash safe slave基于binlog文件位置的復制還需要設置sync_relay_log=1,因為MySQL在Crash恢復時必須先通過讀取relay log補齊MTS導致的事務空洞。

2、基于GTID的復制

上面的設置并不適用于基于GTID的復制。在基于GTID的復制下，crash的Slave重啟后，從binlog中解析的gtid_executed決定了要apply哪些binlog記錄，所以binlog必須和innodb存儲引擎的數據保持一致。要做到這一點，需要把sync_binlog和innodb_flush_log_at_trx_commit都設置為1，即所謂的"雙1"。

另外MySQL啟動時，會從relay log文件中獲取已接收的GTIDs并更新Retrieved_Gtid_Set。由于relay log文件可能不完整，所以需要拋棄已接收的relay log文件。因此relay_log_recovery = ON也是必須的。

這樣，對于基于GTID的復制，保證crash safe slave的設置就是下面這樣。

sync_binlog = 1
innodb_flush_log_at_trx_commit = 1
relay_log_recovery = ON

關于如何設置以確保crash safe slave，官方文檔有明確記載，見 17.3.2 Handling an Unexpected Halt of a Replication Slave。

但是其中關于GTID的記載中存在筆誤,將relay_log_recovery=1寫成了relay_log_recovery=0 (#83711)。同時也沒有提到必須設置"雙1"，但是"雙1"是必要的，否則crash的Slave重啟后，可能會重復應用binlog event也可能會遺漏應用binlog event（#70659）。其中遺漏應用binlog event的情況更可怕，因為Slave在不觸發SQL錯誤的情況下就默默的和Master不一致了。

3、設置"雙1"對性能的影響

出于安全考慮，強烈推薦設置"雙1"。"雙1"會增大每個事務的RT，但得益于MySQL的組提交機制，高并發下"雙1"對系統整體tps的影響在可接受范圍內。

sysbench oltp.lua 10張表每張表100w記錄(qps/并發數)

對更新同一行這樣無法有效并行的場景，"雙1"對性能的影響非常大。

sysbench update_non_index.lua 1張表1條記錄(qps/并發數)

對不能有效并行的Slave replay，存在同樣的問題。

通過指定tx-rate執行sysbench的update_non_index.lua腳本壓測30秒，完成后檢查主備延遲。

可以發現在Slave被配置為"雙1"的情況下，延遲非常嚴重,1000以上的QPS就會出現延遲，非"雙1"下QPS到5000以上才會出現延遲（主庫配置為"雙1"）。

sysbench update_non_index.lua 1張表100w條記錄 128并發(延遲/qps)

以上測試環境是Percona Server 5.6運行在配置HDD的8 core虛機，由于測試結果和系統IO能力有很大關系，僅供參考。

4、如何在非"雙1"下保證crash safe slave

如果是MySQL 5.7可以關閉log_slave_updates，這樣MySQL會將已執行的GTIDs實時記錄到系統表mysql.gtid_executed中，mysql.gtid_executed是和用戶事務一起提交的，因此可以保證和實際的數據一致。

log_slave_updates = OFF
relay_log_recovery = ON

如果是MySQL 5.6可以采用如下變通的方式。

按照基于binlog文件復制時crash safe slave的要求設置

relay_log_info_repository = TABLE
relay_log_info_repository = TABLE
relay_log_recovery = ON

在Slave crash后，根據relay_log_info_repository設置相應的gitd_purged再開啟復制，
步驟如下:

1.啟動MySQL，但不開啟復制
mysqld --skip-slave-start

2.在Slave上修改為基于binlog文件位置的復制
change master to MASTER_AUTO_POSITION = 0

3.啟動slave IO線程
start slave io_thread
這里不能啟動SQL線程，如果接受到的GTID已經在Slave的gtid_executed里了，會被Slave skip掉。

4.檢查binlog傳輸的開始位置(即Retrieved_Gtid_Set的值)
show slave status\G
假設輸出的Retrieved_Gtid_Set值為e10c75be-5c1b-11e6-ab7c-000c296078ae:7-10

5.在Master上檢查gtid_executed
show master status
假設輸出的Executed_Gtid_Set值為e10c75be-5c1b-11e6-ab7c-000c296078ae:1-10

6.在Slave上設置gitd_purged為binlog傳輸位置的前面的GTID的集合
reset master;
set global gitd_purged='e10c75be-5c1b-11e6-ab7c-000c296078ae:1-6';

7.修改回auto position的復制
change master to MASTER_AUTO_POSITION = 1

8.啟動slave SQL線程
start slave sql_thread

但是，這種變通的方法不適合多線程復制。因為多線程復制可能產生gtid gap和Gap-free low-watermark position，這會導致Salve上重復apply已經apply過的event。后果就是數據不一致或者復制中斷，除非設置binlog格式為row模式并且slave_exec_mode=IDEMPOTENT,slave_exec_mode=IDEMPOTENT允許Slave回放binlog時忽略重復鍵和找不到鍵的錯誤，使得binlog回放具有冪等性，但這也意味著如果真的出現了主備數據不一致也會被它忽略。

5、MTS下特有的問題

在同時使用MTS(slave_parallel_workers > 1)時，即使按上面crash safe slave的要求設置了基于GTID的復制，Slave crash后再重啟還是會導致復制中斷。

通過強制殺掉MySQL所在虛機的方式模擬Slave宕機，然后再啟動MySQL，MySQL日志中有如下錯誤消息：
啟動slave時也會報錯

mysql> start slave;
ERROR 1872 (HY000): Slave failed to initialize relay log info structure from the repository

出現這種現象的原因在于，relay_log_recovery=1 且 slave_parallel_workers>1的情況下，mysql啟動時會進入MTS Group恢復流程，即讀取relay log，嘗試填補由于多線程復制導致的gap。然后relay log文件由于不是實時刷新的，在relay log文件中找不到gap對應的relay log記錄(覆蓋了gap的relay log起始和結束位置分別被稱為低水位和高水位,低水位點即slave_relay_log_info.Relay_log_pos的值)就會報這個錯。

實際上，在GTID模式下，slave在apply event的時候可以跳過重復事件，所以可以安全的從低水位點應用日志，沒必要解析relay log文件。 這看上去是一個bug，于是提交了一個bug報告#83713，目前還沒有收到回復。

作為回避方法，可以通過清除relay log文件，跳過這個錯誤。執行步驟如下：

reset slave;
change master to MASTER_AUTO_POSITION = 1
start slave;

在這里，單純的調reset slave不能把狀態清理干凈，內部的Relay_log_info.inited標志位仍然處于未被初始化狀態,此時調用start slave仍然會失敗。因此需要補一刀change master。

6、Master的crash safe

前面一直在講crash safe slave，Master的crash safe同樣重要。 要想Master保持crash safe需要按下面的參數進行設置，否則不僅會丟失事務，gtid_executed還可能和實際的innodb存儲引擎中的數據不一致。

sync_binlog = 1
innodb_flush_log_at_trx_commit = 1

在Master配置為"雙1"的情況下，Master crash后，如果沒有發生failover，可以繼續作為Master。 如果發生了failover，可以檢查舊Master和新Master上由舊Master執行的事務集合是否一致。
show master status

如果一致，可以按MASTER_AUTO_POSITION = 1的方式將舊Master作為Slave和新Master建立復制關系。否則，考慮做事務補償或從新Master上拉取備份進行恢復。

在Master配置不是"雙1"的情況下，在Master crash后由于難以準確知道舊Master上究竟執行了哪些事務，安全的做法是實施主備切換，并從新Master上拉取備份，把舊Master作為新Master的Slave進行恢復。
文章轉載https://www.cnblogs.com/icyblog/p/7241040.htm