如何利用鏈路追蹤快速定位問題

“中浩,xxx接口報錯了你看一下咋回事”

“稍等一下哈,我看一下。Xxx組的xxx接口報錯了,我們這邊直接拋錯了”

“具體啥問題啊,你看下日志,我去找xxx組的人問一下,現在阻塞流程了啊”

“呃。。。對這個接口的請求日志好難找啊,這個接口請求很頻繁,不知道報錯的是哪一條。。”

“中浩,xxx接口太慢了,你看下是什么原因導致的”

“這個接口我們掉了很多外部接口啊,不知道具體是哪個接口太慢了”

不知道身在項目的小伙伴對上面這樣的對話熟不熟悉。在項目初期,每次收到QA這樣的詢問,作為開發的我都覺得很頭大。(因為有些日志我是真的找不到)基于業務的復雜,項目中接入了大量的外部接口。服務與服務鏈路之間的調用關系也變得錯綜復雜。此時,在我們遇上問題排查的時候,追溯到了某個接口之后線索就斷了,非常難再往下定位問題。

此時我們自然而然地就會想:難道就沒有一種方法能夠把請求的整個調用鏈路記錄下來,并通過某個唯一id標記,同時對每個節點都進行記錄嘛?這樣我們就能通過標記在請求鏈路上的這個唯一id來快速定位問題,從而大量節省我們排查問題和統計分析的時間。其實上述的只是我們在微服務中最常遇上的兩個問題。隨著微服務應用數量的極速增加,服務與服務鏈路之間的調用關系也變得錯綜復雜。此時,我們也會碰到其他各種難題。

  • 系統出現問題后,由于服務鏈路過長或過于復雜,無法快速準確定位問題。客戶端(如瀏覽器)或者移動端應用報出異常或者錯誤,也無法確定是哪個服務拋出的異常。
  • 某個業務請求非常慢,且總是超時,無法確定系統哪個環節存在性能的問題。
  • 修改成:如何快速發現問題并可以通過調用鏈結合業務日志快速定位錯誤信息?
  • 如何判斷故障影響范圍,并將各個階段鏈路耗時、服務依賴關系可以通過可視化界面展現出來,從而直觀地審視故障的影響范圍?
  • 如何梳理服務依賴以及依賴的合理性?如何分析鏈路性能問題以及實時容量規劃?通過分析鏈路耗時、服務間的依賴關系,就可以得到用戶的行為路徑,匯總分析出具體出問題的場景。

這個時候,鏈路追蹤能夠幫助我們解決這些實際問題。

圖片來源:《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》 -- Google Technical Report dapper-2010-1, April 2010

假設現在有一個如上圖所示的請求,我們應該怎樣對這個請求進行記錄呢?

鏈路追蹤的重要概念:

現在市面上絕大部分的鏈路追蹤系統都是以谷歌公開論文中提到的Dapper為基礎構建而成,所以我們先來一起看看調用鏈監控中的幾個重要概念。

Trace

在之前的描述中我們已經想到,能不能通過一個唯一id來標記我們的請求,從而將整個請求從頭到尾串聯起來。在鏈路追蹤中,trace是請求在分布式系統中的整個鏈路視圖。我們可以把trace看作一棵二叉樹,從中我們能直觀地看到請求經過所有服務的路徑。從請求到服務器開始,到服務器返回響應數據結束,跟蹤每次RPC調用的耗時,并使用唯一標識trace id。在整個請求的調用鏈中,請求會一直攜帶 trace id 往下游服務傳遞,且在整個調用鏈中始終保持不變,所以在日志中可以通過 trace id 查詢到整個請求期間系統記錄下來的所有日志。

Span

在建立了一個完整的標識之后,我們還希望對每個節點都進行記錄。不然我們只知道一個請求調用了那些服務,但是卻不清楚各個服務之間的上下游以及調用關系。span 是代表整個鏈路中不同服務內部的視圖。如果我們將trace看作 一棵樹的話,那么span就是這棵樹上的不同節點。

每個 span 都記錄著 parent id 和 trace id,表明其所屬父節點和調用鏈,其中沒有 parent id 的 span 稱為 root span,root span 的 id 就是 trace id。請求到達每個服務后,服務都會為請求生成span id,而隨請求一起從上游傳過來的上游服務的 span id 會被記錄成parent-span id。

當前服務生成的 span id 隨著請求一起再傳到下游服務時,這個span id 又會被下游服務當做 parent-span id記錄。通過span的ID我們可以輕松了解服務的父服務是誰,再結合trace id就可以將一條完整的請求調用鏈串聯起來。

圖片來源:《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》 -- Google Technical Report dapper-2010-1, April 2010

針對以上請求,整個調用的鏈路就如圖所示非常清晰了。

Annotation

在上述遇到的問題中,我們除了希望得到整個請求的鏈路。還希望能夠對其中的某個服務進行調優。這個時候我們就需要對單個服務,或者說是span,記錄更多的信息。這個時候就需要Annotation的概念了.

圖片來源:《Dapper, a Large-Scale Distributed Systems Tracing Infrastructure》 -- Google Technical Report dapper-2010-1, April 2010

  • Client Start:表示客戶端發起請求;
  • Server Received:表示服務端收到請求;
  • Server Send:表示服務端完成處理,并將結果發送給客戶端;
  • Client Received:表示客戶端獲取到服務端返回的響應數據。

結合上圖我們,我們可以利用Annotation里的信息來計算一次調用的耗時,只需將客戶端結束的時間點減去客戶端開始請求的時間點。如果要計算客戶端發送網絡耗時,即客戶端接收請求的時間點減去客戶端發送請求的時間點。

Zipkin實例

遵循以上三點鏈路追蹤的核心思路,我們來看一看現在市面上主流的鏈路追蹤款框架都是怎么實現的,這里我們以Zipkin為例。

可以看到,我們的請求到達服務器之后被攔截下來:

在這個filter中,框架首先會查詢我們請求(request)是否存在鏈路信息。圖中可以看到,我們的初次請求是沒有trace的內容的:

同時由于是首次請求,所以請求中也不會有parent-span的信息。在圖中也已看到,這個時候框架會給請求生成一個span信息和trace信息:

由于是初次請求,span id就作為鏈路的trace id:

最后框架將生成的span信息和trace信息,設置到我們請求的attribute當中并傳遞下去:

通過我們的代碼,我們能夠很清晰的看到zipkin是如何給我們的請求加上trace信息和span信息,并將其傳遞下去的。此時我們就能夠通過trace中的trace id,快速地發現和定位問題。

小結

本文介紹鏈路追蹤的關鍵概念和實現,讓讀者初步了解鏈路追蹤的作用。實際上,鏈路追蹤最大的價值在于“關聯”。我們可以從數據層面關聯應用日志(Logs)、關鍵事件(Events)、性能指標(Metrics)或診斷工具(Profiling),也可以從系統層面關聯用戶終端、網關、應用、中間件、容器與基礎設施。通過鏈路追蹤,我們可以構建一張軌跡拓撲大圖。這張拓撲圖覆蓋的范圍越廣,鏈路追蹤就能發揮的價值就越大。全鏈路追蹤是覆蓋全部關聯 IT 系統的最佳實踐方案,能夠完整記錄用戶行為在系統間的調用路徑與狀態。


文/Thoughtworks 尹中浩
原文鏈接:如何使用鏈路追蹤快速定位問題-Thoughtworks洞見

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,412評論 6 532
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,514評論 3 416
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,373評論 0 374
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,975評論 1 312
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,743評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,199評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,262評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,414評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,951評論 1 336
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,780評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,983評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,527評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,218評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,649評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,889評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,673評論 3 391
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,967評論 2 374

推薦閱讀更多精彩內容