服務(wù)器架構(gòu)技術(shù)

1. 初始階段的網(wǎng)站架構(gòu)

一般來講,大型網(wǎng)站都是從小型網(wǎng)站發(fā)展而來,一開始的架構(gòu)都比較簡單,隨著業(yè)務(wù)復(fù)雜和用戶量的激增,才開始做很多架構(gòu)上的改進(jìn)。當(dāng)它還是小型網(wǎng)站的時候,沒有太多訪客,一般來講只需要一臺服務(wù)器就夠了,這時應(yīng)用程序、數(shù)據(jù)庫、文件等所有資源都在一臺服務(wù)器上,網(wǎng)站架構(gòu)如下圖所示:


2. 應(yīng)用服務(wù)和數(shù)據(jù)服務(wù)分離

隨著網(wǎng)站業(yè)務(wù)的發(fā)展和用戶量的增加,一臺服務(wù)器就無法再滿足需求了。大量用戶訪問導(dǎo)致訪問速度越來越慢,而逐漸增加的數(shù)據(jù)也會導(dǎo)致存儲空間不足。這時就需要將應(yīng)用和數(shù)據(jù)分離,應(yīng)用和數(shù)據(jù)分離后整個網(wǎng)站使用 3 臺服務(wù)器:應(yīng)用服務(wù)器、文件服務(wù)器和數(shù)據(jù)庫服務(wù)器。這 3 臺服務(wù)器對硬件資源的要求各不相同:

應(yīng)用服務(wù)器業(yè)務(wù)邏輯,需要強(qiáng)大的CPU

數(shù)據(jù)庫服務(wù)器對磁盤讀寫操作很多,需要更快的磁盤和更大的內(nèi)存

文件服務(wù)器存儲用戶上傳的文件,因此需要更大的磁盤空間

此時,網(wǎng)站系統(tǒng)的架構(gòu)如下圖所示:

<img src="https://pic1.zhimg.com/f6d05e8fafd86940614503fdb53dd608_b.png" data-rawwidth="445" data-rawheight="317" class="origin_image zh-lightbox-thumb" width="445" data-original="https://pic1.zhimg.com/f6d05e8fafd86940614503fdb53dd608_r.png">

3. 使用緩存改善網(wǎng)站性能

隨著用戶再增加,網(wǎng)站又會一次面臨挑戰(zhàn):數(shù)據(jù)庫壓力太大導(dǎo)致整站訪問效率再此下降,用戶體驗(yàn)受到影響。一個網(wǎng)站,往往 80% 的業(yè)務(wù)訪問集中在 20% 的數(shù)據(jù)上,比如微博請求量最多的肯定是那些千萬級粉絲的大 V 的微博,而幾乎沒有人關(guān)注的你的首頁,除了自己想起來之外根本不會被打開。既然大部分業(yè)務(wù)訪問集中在一小部分?jǐn)?shù)據(jù)上,那就把這一小部分?jǐn)?shù)據(jù)先提前緩存在內(nèi)存中,而不是每次都去數(shù)據(jù)庫讀取,這樣就可以減少數(shù)據(jù)庫的訪問壓力,從而提高整個網(wǎng)站的訪問速度。

網(wǎng)站使用的緩存一般分為緩存到應(yīng)用服務(wù)器或者緩存在專門的分布式緩存服務(wù)器。緩存到應(yīng)用服務(wù)器自己的訪問速度快很多,但是受自身內(nèi)存限制,往往不太適用。遠(yuǎn)程分布式緩存使用一個集群專門負(fù)責(zé)緩存服務(wù),當(dāng)內(nèi)存不夠還可以輕松得動態(tài)擴(kuò)容。


4. 使用應(yīng)用服務(wù)器集群改善網(wǎng)站的并發(fā)處理能力

使用緩存后,數(shù)據(jù)訪問壓力得到了緩解,但是單一應(yīng)用服務(wù)器能夠處理的請求連接有限,在網(wǎng)站訪問高峰期,應(yīng)用服務(wù)器就成了整個網(wǎng)站的效率瓶頸。使用分布式集群是網(wǎng)站解決高并發(fā)、海量數(shù)據(jù)問題的常用手段。當(dāng)一臺服務(wù)器的處理能力和存儲空間不足時,不要嘗試去更換更強(qiáng)大的服務(wù)器,對大型網(wǎng)站而言,多么強(qiáng)大的服務(wù)器,都滿足不了網(wǎng)站持續(xù)增長的業(yè)務(wù)需求。這種情況下,更恰當(dāng)?shù)淖龇ㄊ窃黾右慌_服務(wù)器分擔(dān)原有服務(wù)器的訪問及存儲壓力。 對網(wǎng)站架構(gòu)而言,只要能通過增加一臺服務(wù)器的方式改善負(fù)載壓力,就可以以同樣的方式持續(xù)增加服務(wù)器不斷改善系統(tǒng)性能,從而實(shí)現(xiàn)系統(tǒng)的可伸縮性。應(yīng)用服務(wù)器實(shí)現(xiàn)集群是網(wǎng)站可伸縮架構(gòu)設(shè)計(jì)中較為簡單成熟的一種,如下圖所示:


通過負(fù)載均衡調(diào)度服務(wù)器,可以將來自用戶瀏覽器的訪問請求分發(fā)到應(yīng)用服務(wù)器集群中的任何一臺服務(wù)器上,如果有更多用戶,就在集群中加入更多的應(yīng)用服務(wù)器,使應(yīng)用服務(wù)器的壓力不再成為整個網(wǎng)站的瓶頸。

5. 數(shù)據(jù)庫讀寫分離

網(wǎng)站在使用緩存后,使對大部分?jǐn)?shù)據(jù)讀操作訪問都可以不通過數(shù)據(jù)庫就能完成,但是仍有一部分讀操作(緩存訪問不命中、緩存過期)和全部的寫操作都需要訪問數(shù)據(jù)庫,在網(wǎng)站的用戶達(dá)到一定規(guī)模后,數(shù)據(jù)庫因?yàn)樨?fù)載壓力過高而成為網(wǎng)站的瓶頸。 目前大部分的主流數(shù)據(jù)庫都提供主從熱備功能,通過配置兩臺數(shù)據(jù)庫主從關(guān)系,可以將一臺數(shù)據(jù)庫服務(wù)器的數(shù)據(jù)更新同步到另一臺服務(wù)器上。網(wǎng)站利用數(shù)據(jù)庫的這一功能,實(shí)現(xiàn)數(shù)據(jù)庫讀寫分離,從而改善數(shù)據(jù)庫負(fù)載壓力。如下圖所示:

應(yīng)用服務(wù)器在寫數(shù)據(jù)的時候,訪問主數(shù)據(jù)庫,主數(shù)據(jù)庫通過主從復(fù)制機(jī)制將數(shù)據(jù)更新同步到從數(shù)據(jù)庫,這樣當(dāng)應(yīng)用服務(wù)器讀數(shù)據(jù)的時候,就可以通過從數(shù)據(jù)庫獲得數(shù)據(jù)。為了便于應(yīng)用程序訪問讀寫分離后的數(shù)據(jù)庫,通常在應(yīng)用服務(wù)器端使用專門的數(shù)據(jù)訪問模塊,使數(shù)據(jù)庫讀寫分離對應(yīng)用透明。


6. 使用反向代理和 CDN 加速網(wǎng)站響應(yīng)

隨著網(wǎng)站業(yè)務(wù)不斷發(fā)展,用戶規(guī)模越來越大,由于中國復(fù)雜的網(wǎng)絡(luò)環(huán)境,不同地區(qū)的用戶訪問網(wǎng)站時,速度差別也極大。有研究表明,網(wǎng)站訪問延遲和用戶流失率正相關(guān),網(wǎng)站訪問越慢,用戶越容易失去耐心而離開。為了提供更好的用戶體驗(yàn),留住用戶,網(wǎng)站需要加速網(wǎng)站訪問速度。主要手段有使用 CDN 和反向代理。如下圖所示:


7. 使用分布式文件系統(tǒng)和分布式數(shù)據(jù)庫系統(tǒng)

任何強(qiáng)大的單一服務(wù)器都滿足不了大型網(wǎng)站持續(xù)增長的業(yè)務(wù)需求。數(shù)據(jù)庫經(jīng)過讀寫分離后,從一臺服務(wù)器拆分成兩臺服務(wù)器,但是隨著網(wǎng)站業(yè)務(wù)的發(fā)展依然不能滿足需求,這時需要使用分布式數(shù)據(jù)庫。文件系統(tǒng)也一樣,需要使用分布式文件系統(tǒng)。如下圖所示:


分布式數(shù)據(jù)庫是網(wǎng)站數(shù)據(jù)庫拆分的最后手段,只有在單表數(shù)據(jù)規(guī)模非常龐大的時候才使用。不到不得已時,網(wǎng)站更常用的數(shù)據(jù)庫拆分手段是業(yè)務(wù)分庫,將不同業(yè)務(wù)的數(shù)據(jù)部署在不同的物理服務(wù)器上。

8. 使用 NoSQL 和搜索引擎

隨著網(wǎng)站業(yè)務(wù)越來越復(fù)雜,對數(shù)據(jù)存儲和檢索的需求也越來越復(fù)雜,網(wǎng)站需要采用一些非關(guān)系數(shù)據(jù)庫技術(shù)如 NoSQL 和非數(shù)據(jù)庫查詢技術(shù)如搜索引擎。如下圖所示:


NoSQL 和搜索引擎都是源自互聯(lián)網(wǎng)的技術(shù)手段,對可伸縮的分布式特性具有更好的支持。應(yīng)用服務(wù)器則通過一個統(tǒng)一數(shù)據(jù)訪問模塊訪問各種數(shù)據(jù),減輕應(yīng)用程序管理諸多數(shù)據(jù)源的麻煩。

9. 業(yè)務(wù)拆分

大型網(wǎng)站為了應(yīng)對日益復(fù)雜的業(yè)務(wù)場景,通過使用分而治之的手段將整個網(wǎng)站業(yè)務(wù)分成不同的產(chǎn)品線。如大型購物交易網(wǎng)站都會將首頁、商鋪、訂單、買家、賣家等拆分成不同的產(chǎn)品線,分歸不同的業(yè)務(wù)團(tuán)隊(duì)負(fù)責(zé)。

具體到技術(shù)上,也會根據(jù)產(chǎn)品線劃分,將一個網(wǎng)站拆分成許多不同的應(yīng)用,每個應(yīng)用獨(dú)立部署。應(yīng)用之間可以通過一個超鏈接建立關(guān)系(在首頁上的導(dǎo)航鏈接每個都指向不同的應(yīng)用地址),也可以通過消息隊(duì)列進(jìn)行數(shù)據(jù)分發(fā),當(dāng)然最多的還是通過訪問同一個數(shù)據(jù)存儲系統(tǒng)來構(gòu)成一個關(guān)聯(lián)的完整系統(tǒng),如下圖所示:


10. 分布式服務(wù)

隨著業(yè)務(wù)拆分越來越小,存儲系統(tǒng)越來越龐大,應(yīng)用系統(tǒng)的整體復(fù)雜度呈指數(shù)級增加,部署維護(hù)越來越困難。由于所有應(yīng)用要和所有數(shù)據(jù)庫系統(tǒng)連接,在數(shù)萬臺服務(wù)器規(guī)模的網(wǎng)站中,這些連接的數(shù)目是服務(wù)器規(guī)模的平方,導(dǎo)致數(shù)據(jù)庫連接資源不足,拒絕服務(wù)。

既然每一個應(yīng)用系統(tǒng)都需要執(zhí)行許多相同的業(yè)務(wù)操作,比如用戶管理、商品管理等,那么可以將這些共用的業(yè)務(wù)提取出來,獨(dú)立部署。由這些可復(fù)用的業(yè)務(wù)連接數(shù)據(jù)庫,提供共用業(yè)務(wù)服務(wù),而應(yīng)用系統(tǒng)只需要管理用戶界面,通過分布式服務(wù)調(diào)用共用業(yè)務(wù)服務(wù)完成具體業(yè)務(wù)操作。如下圖所示:


大型網(wǎng)站的架構(gòu)演化到這里,基本上大多數(shù)的技術(shù)問題都可以得以解決了。


作者:xlzd

鏈接:https://www.zhihu.com/question/20657269/answer/101795180

來源:知乎

著作權(quán)歸作者所有。商業(yè)轉(zhuǎn)載請聯(lián)系作者獲得授權(quán),非商業(yè)轉(zhuǎn)載請注明出處。

-=- 感謝原作者-=-

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,362評論 6 537
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,013評論 3 423
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事?!?“怎么了?”我有些...
    開封第一講書人閱讀 177,346評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,421評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,146評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,534評論 1 325
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,585評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,767評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,318評論 1 335
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,074評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,258評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,828評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,486評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,916評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,156評論 1 290
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,993評論 3 395
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,234評論 2 375

推薦閱讀更多精彩內(nèi)容