分布式事務及其解決方案

本文來源:鏈接:http://www.lxweimin.com/p/eafdb65de40f 在此感謝分享!
摘要: 本文將深入和大家探討微服務架構下,分布式事務的各種解決方案,并重點為大家解讀阿里巴巴提出的分布式事務解決方案----GTS。該方案中提到的GTS是全新一代解決微服務問題的分布式事務互聯網中間件。

1 微服務的發展

微服務倡導將復雜的單體應用拆分為若干個功能簡單、松耦合的服務,這樣可以降低開發難度、增強擴展性、便于敏捷開發。當前被越來越多的開發者推崇,很多互聯網行業巨頭、開源社區等都開始了微服務的討論和實踐。Hailo有160個不同服務構成,NetFlix有大約600個服務。國內方面,阿里巴巴、騰訊、360、京東、58同城等很多互聯網公司都進行了微服務化實踐。當前微服務的開發框架也非常多,比較著名的有Dubbo、SpringCloud、thrift 、grpc等。

2 微服務落地存在的問題

雖然微服務現在如火如荼,但對其實踐其實仍處于探索階段。很多中小型互聯網公司,鑒于經驗、技術實力等問題,微服務落地比較困難。如著名架構師Chris Richardson所言,目前存在的主要困難有如下幾方面:

1)單體應用拆分為分布式系統后,進程間的通訊機制和故障處理措施變的更加復雜。

2)系統微服務化后,一個看似簡單的功能,內部可能需要調用多個服務并操作多個數據庫實現,服務調用的分布式事務問題變的非常突出。

3)微服務數量眾多,其測試、部署、監控等都變的更加困難。

隨著RPC框架的成熟,第一個問題已經逐漸得到解決。例如dubbo可以支持多種通訊協議,springcloud可以非常好的支持restful調用。對于第三個問題,隨著docker、devops技術的發展以及各公有云paas平臺自動化運維工具的推出,微服務的測試、部署與運維會變得越來越容易。

而對于第二個問題,現在還沒有通用方案很好的解決微服務產生的事務問題。分布式事務已經成為微服務落地最大的阻礙,也是最具挑戰性的一個技術難題。 為此,本文將深入和大家探討微服務架構下,分布式事務的各種解決方案,并重點為大家解讀阿里巴巴提出的分布式事務解決方案----GTS。該方案中提到的GTS是全新一代解決微服務問題的分布式事務互聯網中間件。

3 傳統分布式事務解決方案

3.1 基于XA協議的兩階段提交方案

交易中間件與數據庫通過 XA 接口規范,使用兩階段提交來完成一個全局事務, XA 規范的基礎是兩階段提交協議。

第一階段是表決階段,所有參與者都將本事務能否成功的信息反饋發給協調者;第二階段是執行階段,協調者根據所有參與者的反饋,通知所有參與者,步調一致地在所有分支上提交或者回滾。

2509688-164adafdeea36938.png

兩階段提交方案應用非常廣泛,幾乎所有商業OLTP數據庫都支持XA協議。但是兩階段提交方案鎖定資源時間長,對性能影響很大,基本不適合解決微服務事務問題。

3.2 TCC方案

TCC方案在電商、金融領域落地較多。TCC方案其實是兩階段提交的一種改進。其將整個業務邏輯的每個分支顯式的分成了Try、Confirm、Cancel三個操作。Try部分完成業務的準備工作,confirm部分完成業務的提交,cancel部分完成事務的回滾。基本原理如下圖所示。

2509688-4904729499d8ca9a.png

事務開始時,業務應用會向事務協調器注冊啟動事務。之后業務應用會調用所有服務的try接口,完成一階段準備。之后事務協調器會根據try接口返回情況,決定調用confirm接口或者cancel接口。如果接口調用失敗,會進行重試。

TCC方案讓應用自己定義數據庫操作的粒度,使得降低鎖沖突、提高吞吐量成為可能。 當然TCC方案也有不足之處,集中表現在以下兩個方面:

對應用的侵入性強。業務邏輯的每個分支都需要實現try、confirm、cancel三個操作,應用侵入性較強,改造成本高。

實現難度較大。需要按照網絡狀態、系統故障等不同的失敗原因實現不同的回滾策略。為了滿足一致性的要求,confirm和cancel接口必須實現冪等。

上述原因導致TCC方案大多被研發實力較強、有迫切需求的大公司所采用。微服務倡導服務的輕量化、易部署,而TCC方案中很多事務的處理邏輯需要應用自己編碼實現,復雜且開發量大。

3.3 基于消息的最終一致性方案

消息一致性方案是通過消息中間件保證上、下游應用數據操作的一致性。基本思路是將本地操作和發送消息放在一個事務中,保證本地操作和消息發送要么兩者都成功或者都失敗。下游應用向消息系統訂閱該消息,收到消息后執行相應操作。

1212.png

消息方案從本質上講是將分布式事務轉換為兩個本地事務,然后依靠下游業務的重試機制達到最終一致性。基于消息的最終一致性方案對應用侵入性也很高,應用需要進行大量業務改造,成本較高。

4 GTS--分布式事務解決方案

GTS是一款分布式事務中間件,由阿里巴巴中間件部門研發,可以為微服務架構中的分布式事務提供一站式解決方案。

更多GTS資料請訪問研發團隊微博。

4.1 GTS的核心優勢

性能超強

GTS通過大量創新,解決了事務ACID特性與高性能、高可用、低侵入不可兼得的問題。單事務分支的平均響應時間在2ms左右,3臺服務器組成的集群可以支撐3萬TPS以上的分布式事務請求。

應用侵入性極低

GTS對業務低侵入,業務代碼最少只需要添加一行注解(@TxcTransaction)聲明事務即可。業務與事務分離,將微服務從事務中解放出來,微服務關注于業務本身,不再需要考慮反向接口、冪等、回滾策略等復雜問題,極大降低了微服務開發的難度與工作量。

完整解決方案

GTS支持多種主流的服務框架,包括EDAS,Dubbo,Spring Cloud等。

有些情況下,應用需要調用第三方系統的接口,而第三方系統沒有接入GTS。此時需要用到GTS的MT模式。GTS的MT模式可以等價于TCC模式,用戶可以根據自身業務需求自定義每個事務階段的具體行為。MT模式提供了更多的靈活性,可能性,以達到特殊場景下的自定義優化及特殊功能的實現。

容錯能力強

GTS解決了XA事務協調器單點問題,實現真正的高可用,可以保證各種異常情況下的嚴格數據一致。

4.2 GTS的應用場景

GTS可應用在涉及服務調用的多個領域,包括但不限于金融支付、電信、電子商務、快遞物流、廣告營銷、社交、即時通信、手游、視頻、物聯網、車聯網等,詳細介紹可以閱讀 《GTS--阿里巴巴分布式事務全新解決方案》一文。

4.3 GTS與微服務的集成

GTS包括客戶端(GTS Client)、資源管理器(GTS RM)和事務協調器(GTS Server)三個部分。GTS Client主要用來界定事務邊界,完成事務的發起與結束。GTS RM完成事務分支的創建、提交、回滾等操作。GTS Server主要負責分布式事務的整體推進,事務生命周期的管理。GTS和微服務集成的結構圖如下所示,GTS Client需要和業務應用集成部署,RM與微服務集成部署。

gts.png

4.4 GTS的輸出形式

GTS目前有三種輸出形式:公有云輸出、公網輸出、專有云輸出。

4.4.1 公有云輸出

這種輸出形式面向阿里云用戶。如果用戶的業務系統已經部署到阿里云上,可以申請開通公有云GTS。開通后業務應用即可通過GTS保證服務調用的一致性。這種使用場景下,業務系統和GTS間的網絡環境比較理想,達到很好性能。

gts1.png

4.4.2 公網輸出

這種輸出形式面向于非阿里云的用戶,使用更加方便、靈活,業務系統只要能連接互聯網即可享受GTS提供的云服務(與公有云輸出的差別在于客戶端部署于用戶本地,而不在云上)。

在正常網絡環境下,以包含兩個本地事務的全局事務為例,事務完成時間在20ms左右,50個并發就可以輕松實現1000TPS以上分布式事務,對絕大多數業務來說性能是足夠的。在公網環境,網絡閃斷很難完全避免,這種情況下GTS仍能保證服務調用的數據一致性。

2111.png

具體使用樣例使用參見4.7節GTS的工程樣例。

4.4.3 專有云輸出

這種形式主要面向于已建設了自己專有云平臺的大用戶,GTS可以直接部署到用戶的專有云上,為專有云提供分布式事務服務。目前已經有10多個特大型企業的專有云使用GTS解決分布式事務難題,性能與穩定性經過了用戶的嚴格檢測。

4.5 GTS的使用方式

GTS對應用的侵入性非常低,使用也很簡單。下面以訂單存儲應用為例說明。訂單業務應用通過調用訂單服務和庫存服務完成訂單業務,服務開發框架為Dubbo。

4.5.1 訂單業務應用

在業務函數外圍使用@TxcTransaction注解即可開啟分布式事務。Dubbo應用通過隱藏參數將GTS的事務xid傳播到服務端。

1q.png

4.5.2 服務提供者

更新庫存方法

3q.png

4.6 GTS的應用情況

GTS目前已經在淘寶、天貓、阿里影業、淘票票、阿里媽媽、1688等阿里各業務系統廣泛使用,經受了16年和17年兩年雙十一海量請求的考驗。某線上業務系統最高流量已達十萬TPS(每秒鐘10萬筆事務)。

GTS在公有云和專有云輸出后,已經有了100多個線上用戶,很多用戶通過GTS解決SpringCloud、Dubbo、Edas等服務框架的分布式事務問題。業務領域涉及電力、物流、ETC、煙草、金融、零售、電商、共享出行等十幾個行業,得到用戶的一致認可。

image

上圖是GTS與SpringCloud集成,應用于某共享出行系統。業務共享出行場景下,通過GTS支撐物聯網系統、訂單系統、支付系統、運維系統、分析系統等系各統應用的數據一致性,保證海量訂單和數千萬流水的交易。

4.7 GTS的工程樣例

GTS的公有云樣例可參考阿里云網站。在公網環境下提供sample-txc-simple和sample-txc-dubbo兩個樣例工程。

4.7.1 sample-txc-simple樣例

4.7.1.1 樣例業務邏輯

該樣例是GTS的入門sample,案例的業務邏輯是從A賬戶轉賬給B賬戶,其中A和B分別位于兩個MySQL數據庫中,使用GTS事務保證A和B賬戶錢的總數始終不變。

4.7.1.2 樣例搭建方法

  1. 準備數據庫環境

安裝MySQL,創建兩個數據庫db1和db2。在db1和db2中分別創建txc_undo_log表(SQL腳本見4.7.3)。在db1庫中創建user_money_a表,在db2庫中創建user_money_b表。

  1. 下載樣例

將sample-txc-simple文件下載到本地,樣例中已經包含了GTS的SDK。

  1. 修改配置

打開sample-txc-simple/src/main/resources目錄下的txc-client-context.xml,將數據源的url、username、password修改為實際值。

  1. 運行樣例

在sample-txc-simple目錄下執行build.sh編譯本工程。編譯完成后執行run.sh。

4.7.2 sample-txc-dubbo 樣例

4.7.2.1 樣例業務邏輯

本案例模擬了用戶下訂單、減庫存的業務邏輯。客戶端(Client)通過調用訂單服務(OrderService)創建訂單,之后通過調用庫存服務(StockService)扣庫存。其中訂單服務讀寫訂單數據庫,庫存服務讀寫庫存數據庫。由 GTS 保證跨服務事務的一致性。

4.7.2.2 樣例搭建方法

  1. 準備數據庫環境

安裝MySQL,創建兩個數據庫db1和db2。在db1和db2中分別創建txc_undo_log表。在db1庫中創建orders表,在db2庫中創建stock表。

  1. 下載樣例

將樣例文件sample-txc-dubbo下載到本地機器,樣例中已經包含了GTS的SDK。

  1. 修改配置

打開sample-txc-dubbo/src/main/resources目錄,將dubbo-order-service.xml、dubbo-stock-service.xml兩個文件中數據源的url、username、password修改為實際值。

  1. 運行樣例

編譯程序

在工程根目錄執行 build.sh 命令,編譯工程。編譯后會在 sample-txc-dubbo/client/bin 目錄下生成 order_run.sh、stock_run.sh、client_run.sh 三個運行腳本對應訂單服務、庫存服務以及客戶端。

運行程序

在根目錄執行run.sh,該腳本會依次啟動order_run.sh(訂單服務)、stock_run.sh(庫存服務)和client_run.sh(客戶端程序)。

4.7.2.3 其他說明

樣例使用Multicast注冊中心的聲明方式。如果本機使用無線網絡,dubbo服務在綁定地址時有可能獲取ipv6地址,可以通過jvm啟動參數禁用。

方法是配置jvm啟動參數 -Djava.net.preferIPv4Stack=true

4.7.3 SQL

4.7.3.1 建表 txc_undo_log

CREATE TABLE txc_undo_log (

id bigint(20) NOT NULL AUTO_INCREMENT COMMENT '主鍵',

gmt_create datetime NOT NULL COMMENT '創建時間',

gmt_modified datetime NOT NULL COMMENT '修改時間',

xid varchar(100) NOT NULL COMMENT '全局事務ID',

branch_id bigint(20) NOT NULL COMMENT '分支事務ID',

rollback_info longblob NOT NULL COMMENT 'LOG',

status int(11) NOT NULL COMMENT '狀態',

server varchar(32) NOT NULL COMMENT '分支所在DB IP',

PRIMARY KEY (id),

KEY unionkey (xid,branch_id)

) ENGINE=InnoDB AUTO_INCREMENT=211225994 DEFAULT CHARSET=utf8 COMMENT='事務日志表';

4.7.3.2 建表 user_money_a

CREATE TABLE user_money_a (

id int(11) NOT NULL AUTO_INCREMENT,

money int(11) DEFAULT NULL,

PRIMARY KEY (id)

) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8;

4.7.3.3 建表 user_money_b

CREATE TABLE user_money_b (

id int(11) NOT NULL AUTO_INCREMENT,

money int(11) DEFAULT NULL,

PRIMARY KEY (id)

) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8;

4.7.3.4 建表 orders

CREATE TABLE orders (

id bigint(20) NOT NULL AUTO_INCREMENT,

user_id varchar(255) NOT NULL,

product_id int(11) NOT NULL,

number int(11) NOT NULL,

gmt_create timestamp NOT NULL,

PRIMARY KEY (id)

) ENGINE=MyISAM AUTO_INCREMENT=351 DEFAULT CHARSET=utf8

4.7.3.5 建表 stock

CREATE TABLE stock (

product_id int(11) NOT NULL,

price float NOT NULL,

amount int(11) NOT NULL,

PRIMARY KEY (product_id)

) ENGINE=InnoDB DEFAULT CHARSET=utf8

5 總結

GTS已經在阿里內部廣泛使用,經過了雙十一流量高峰的考驗。內部成熟后,在專有云和公有云服務了很多用戶,很多用戶一天事務量在千萬/億級別,解決了業務服務化改造后的分布式事務棘手技術難題。

在整個世界范圍內,既滿足事務ACID特性,又具備高性能、高可用、業務侵入性低的分布式事務中間件在GTS前是不存在的。讓我們一起體驗GTS帶來的巨大變革吧!

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,345評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,494評論 3 416
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,283評論 0 374
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,953評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,714評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,186評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,255評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,410評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,940評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,776評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,976評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,518評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,210評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,642評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,878評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,654評論 3 391
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,958評論 2 373

推薦閱讀更多精彩內容