如何建設運維告警體系,保障SLA的99.999%

質量是公司的生命線!這個口號喊出去容易,做起來還是有挑戰的,很多公司的口頭禪也都是這個。

線上的產品成型,涉及的角色有銷售,運營,項目,產品,測試,研發,運維,客服等等。但是交付給用戶體驗的最后一道關卡是運維。

運維負責將代碼放到機器上供用戶使用,一旦出現問題,運維也是第一個收到消息,他需要直接解決或者聯合其他人員一層一層的定位修復。

服務的穩定保障分三個階段:事前,事中,事后。要想SLA服務可靠性如99%,99.9%,99.99%,99.999%,那么必須在事前做的足夠好才行,這也是告警體系需要發揮的的價值。

為什么一定要建設告警體系?

地震來了,要不要先通知你跑人?這就是告警體系的作用。

事前考驗的是我們的架構能力和體系建設能力;事中考驗的是我們的經驗和技術能力;事后就需要我們復盤吸取教訓完善事前和事中。

事故一般什么時候發生?

普通的正常的業務迭代研發上線,只要服務集群足夠不會有太多的沖擊,就算有也不會是致命的。

活動沖擊才是致命的,德魯克總結說企業有兩個基本職能:營銷和創新。

恰恰公司運營活動是經常有的,這個大家應該都遇到過。活動前期準備工作我們會考慮到各種因素,但是大型活動心里還是有擔心的怕有遺漏的怕出事故。

因此一個活動要做好,必須有動員能力,戰備能力,后勤能力, 任何一個環節出現問題都是致命的。

動員能力:相關人員一定要參與核心會議,比如明天活動8點開始,沒通知運維在崗就完蛋了。

戰備能力:準備方案,進行方案的討論和對應人負責落地。

后勤能力:除了相關的核心技術人員要在崗,還有技術經理,運維經理,架構師,甚至總監都要在崗,因為一旦出了問題,他們的經驗會發揮超級大的價值,加快服務恢復速度。

事前的告警能力?

有沒有發現,這個時候忽略了一個很重要的工作要做,就是告警。你想想兄弟們要去干仗了,家伙事帶齊準備沖,但是前面有地雷,你要不要得到告警做應變,還是當炮灰。知己知彼才能百戰不殆,監控體系的建設是至關重要的!

監控體系建設

關于建設監控體系可以分三個階段來建設,可根據輕重緩急和團隊的配置來做并不斷完善

第1階段:主機監控

參與角色:SYS系統運維+DBA數據庫運維

這個階段是最基礎的,你需要保障應用process,port,機器負載,數據庫負載等,一定要做的100%的監控到位且能發出報警信息。

第2階段:應用性能監控

參與角色:SRE應用運維+DEV運維研發

這個階段關注的應用的可靠性,將應用的性能發揮到最優,給予研發同學最直接的支持。比如找出頻繁GC的代碼,SlowSql,最大優化tps,rt等等

第3階段:日志監控

參與角色:SRE應用運維+DEV運維研發

這個階段關注的是業務數據全局觀,也就是上帝視角。如服務HTTP200成功率,失敗率,平均響應時間,日志歸集統一查看等等

第1-3階段:持續優化

1,告警規則

監控面對的是不同的業務部門,不同的產品,那么要根據這些創建合適的觸發告警的規則。

設定告警級別:1級,2級, 3級,4級。具體的1,2,3,4級重要程度,可以根據業務關注的點來設定。

設定閥值:將維度,指標,閥值與告警級別關聯。

2,告警通知

設置通知:郵件,IM,短信,電話。1,2級別可以用電話+短信通知。 3級可以是短信+IM。4級可以只是IM。

設置告警分組:不同產品負責人只收到對應產品的告警信息。如果你創建一個大群什么信息都往群里丟,干擾消息多了大家會開啟免打擾模式。

設置值班組:對應的值班組的人員接收全部告警信息且需在崗并努力恢復服務解除告警。

3,業務可視化

這個非常重要!你需讓收到通知的人,點擊通知里面的鏈接能跳轉到一個可視化的頁面,從而幫助他分析問題,快速解決問題。這個可視化是一個非常重要的監控系統平臺,需要持續的去建設。

打比方,我們之前遇到個場景,用戶說登錄不了,同時我們也收到了java服務掛掉的報警,我們先將日志記錄并將服務啟動。但是服務依然沒有恢復,這個時候經過分析判斷可能是負載高接著去擴容機器,發現依然沒有恢復,最后發現是數據庫掛了。

這就是解決問題沒有解決在根本點上,白白浪費了時間。當然其中告警系統也故障了,理論來說數據庫掛掉你應該收到消息。任何時候告警信息一旦收到,你第一時間去看的應該是大盤。用上帝視角去排查,會加快問題的解決速度。這就是業務全局可視化的重要性。

總結:

告警體系是需要花精力花功夫持續建設的,所謂的養兵千日用兵一時真的是最好的形容了。

在穩定時期你做的這些對業務方是無感的,也會覺得沒什么價值。 但是如果一旦出了事故,你努力3個月想拿一個A到頭來結果等來一個D,而且整個團隊都是D,那真是RILE!

運維保障服務的穩定性就是給公司創造的最大價值,做不了王,那就做王背后的男人吧。

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,578評論 6 544
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,701評論 3 429
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,691評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,974評論 1 318
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,694評論 6 413
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 56,026評論 1 329
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 44,015評論 3 450
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 43,193評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,719評論 1 336
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,442評論 3 360
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,668評論 1 374
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,151評論 5 365
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,846評論 3 351
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,255評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,592評論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,394評論 3 400
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,635評論 2 380

推薦閱讀更多精彩內容