Web工作方式
我們平時瀏覽網(wǎng)頁的時候,會打開瀏覽器,輸入網(wǎng)址后按下回車鍵,然后就會顯示出你想要瀏覽的內(nèi)容。在這個看似簡單的用戶行為背后,到底隱藏了些什么呢?
對于普通的上網(wǎng)過程,系統(tǒng)其實(shí)是這樣做的:瀏覽器本身是一個客戶端,當(dāng)你輸入URL的時候,首先瀏覽器會去請求DNS服務(wù)器,通過DNS獲取相應(yīng)的域名對應(yīng)的IP,然后通過IP地址找到IP對應(yīng)的服務(wù)器后,要求建立TCP連接,等瀏覽器發(fā)送完HTTP Request(請求)包后,服務(wù)器接收到請求包之后才開始處理請求包,服務(wù)器調(diào)用自身服務(wù),返回HTTP Response(響應(yīng))包;客戶端收到來自服務(wù)器的響應(yīng)后開始渲染這個Response包里的主體(body),等收到全部的內(nèi)容隨后斷開與該服務(wù)器之間的TCP連接。
圖?為 用戶訪問一個Web站點(diǎn)的過程
一個Web服務(wù)器也被稱為HTTP服務(wù)器,它通過HTTP協(xié)議與客戶端通信。這個客戶端通常指的是Web瀏覽器(其實(shí)手機(jī)端客戶端內(nèi)部也是瀏覽器實(shí)現(xiàn)的)。
Web服務(wù)器的工作原理可以簡單地歸納為:
- 客戶機(jī)通過TCP/IP協(xié)議建立到服務(wù)器的TCP連接
- 客戶端向服務(wù)器發(fā)送HTTP協(xié)議請求包,請求服務(wù)器里的資源文檔
- 服務(wù)器向客戶機(jī)發(fā)送HTTP協(xié)議應(yīng)答包,如果請求的資源包含有動態(tài)語言的內(nèi)容,那么服務(wù)器會調(diào)用動態(tài)語言的解釋引擎負(fù)責(zé)處理“動態(tài)內(nèi)容”,并將處理得到的數(shù)據(jù)返回給客戶端
- 客戶機(jī)與服務(wù)器斷開。由客戶端解釋HTML文檔,在客戶端屏幕上渲染圖形結(jié)果
一個簡單的HTTP事務(wù)就是這樣實(shí)現(xiàn)的,看起來很復(fù)雜,原理其實(shí)是挺簡單的。需要注意的是客戶機(jī)與服務(wù)器之間的通信是非持久連接的,也就是當(dāng)服務(wù)器發(fā)送了應(yīng)答后就與客戶機(jī)斷開連接,等待下一次請求。
URL和DNS解析
我們?yōu)g覽網(wǎng)頁都是通過URL訪問的,那么URL到底是怎么樣的呢?
URL(Uniform Resource Locator)是“統(tǒng)一資源定位符”的英文縮寫,用于描述一個網(wǎng)絡(luò)上的資源, 基本格式如下
scheme://host[:port#]/path/.../[?query-string][#anchor]
scheme 指定低層使用的協(xié)議(例如:http, https, ftp)
host HTTP服務(wù)器的IP地址或者域名
port# HTTP服務(wù)器的默認(rèn)端口是80,這種情況下端口號可以省略。如果使用了別的端口,必須指明,例如 http://www.cnblogs.com:8080/
path 訪問資源的路徑
query-string 發(fā)送給http服務(wù)器的數(shù)據(jù)
anchor 錨
DNS(Domain Name System)是“域名系統(tǒng)”的英文縮寫,是一種組織成域?qū)哟谓Y(jié)構(gòu)的計(jì)算機(jī)和網(wǎng)絡(luò)服務(wù)命名系統(tǒng),它用于TCP/IP網(wǎng)絡(luò),它從事將主機(jī)名或域名轉(zhuǎn)換為實(shí)際IP地址的工作。DNS就是這樣的一位“翻譯官”,它的基本工作原理可用下圖來表示。
圖?為DNS工作原理
更詳細(xì)的DNS解析的過程如下,這個過程有助于我們理解DNS的工作模式
在瀏覽器中輸入www.qq.com域名,操作系統(tǒng)會先檢查自己本地的hosts文件是否有這個網(wǎng)址映射關(guān)系,如果有,就先調(diào)用這個IP地址映射,完成域名解析。
如果hosts里沒有這個域名的映射,則查找本地DNS解析器緩存,是否有這個網(wǎng)址映射關(guān)系,如果有,直接返回,完成域名解析。
如果hosts與本地DNS解析器緩存都沒有相應(yīng)的網(wǎng)址映射關(guān)系,首先會找TCP/IP參數(shù)中設(shè)置的首選DNS服務(wù)器,在此我們叫它本地DNS服務(wù)器,此服務(wù)器收到查詢時,如果要查詢的域名,包含在本地配置區(qū)域資源中,則返回解析結(jié)果給客戶機(jī),完成域名解析,此解析具有權(quán)威性。
如果要查詢的域名,不由本地DNS服務(wù)器區(qū)域解析,但該服務(wù)器已緩存了此網(wǎng)址映射關(guān)系,則調(diào)用這個IP地址映射,完成域名解析,此解析不具有權(quán)威性。
如果本地DNS服務(wù)器本地區(qū)域文件與緩存解析都失效,則根據(jù)本地DNS服務(wù)器的設(shè)置(是否設(shè)置轉(zhuǎn)發(fā)器)進(jìn)行查詢,如果未用轉(zhuǎn)發(fā)模式,本地DNS就把請求發(fā)至 “根DNS服務(wù)器”,“根DNS服務(wù)器”收到請求后會判斷這個域名(.com)是誰來授權(quán)管理,并會返回一個負(fù)責(zé)該頂級域名服務(wù)器的一個IP。本地DNS服務(wù)器收到IP信息后,將會聯(lián)系負(fù)責(zé).com域的這臺服務(wù)器。這臺負(fù)責(zé).com域的服務(wù)器收到請求后,如果自己無法解析,它就會找一個管理.com域的下一級DNS服務(wù)器地址(qq.com)給本地DNS服務(wù)器。當(dāng)本地DNS服務(wù)器收到這個地址后,就會找qq.com域服務(wù)器,重復(fù)上面的動作,進(jìn)行查詢,直至找到www.qq.com主機(jī)。
如果用的是轉(zhuǎn)發(fā)模式,此DNS服務(wù)器就會把請求轉(zhuǎn)發(fā)至上一級DNS服務(wù)器,由上一級服務(wù)器進(jìn)行解析,上一級服務(wù)器如果不能解析,或找根DNS或把轉(zhuǎn)請求轉(zhuǎn)至上上級,以此循環(huán)。不管是本地DNS服務(wù)器用是是轉(zhuǎn)發(fā),還是根提示,最后都是把結(jié)果返回給本地DNS服務(wù)器,由此DNS服務(wù)器再返回給客戶機(jī)。
圖?為DNS解析的整個流程
所謂
遞歸查詢過程
就是 “查詢的遞交者” 更替, 而迭代查詢過程
則是 “查詢的遞交者”不變。舉個例子來說,你想知道某個一起上法律課的女孩的電話,并且你偷偷拍了她的照片,回到寢室告訴一個很仗義的哥們兒,這個哥們兒二話沒說,拍著胸脯告訴你,甭急,我替你查(此處完成了一次遞歸查詢,即,問詢者的角色更替)。然后他拿著照片問了學(xué)院大四學(xué)長,學(xué)長告訴他,這姑娘是xx系的;然后這哥們兒馬不停蹄又問了xx系的辦公室主任助理同學(xué),助理同學(xué)說是xx系yy班的,然后很仗義的哥們兒去xx系yy班的班長那里取到了該女孩兒電話。(此處完成若干次迭代查詢,即,問詢者角色不變,但反復(fù)更替問詢對象)最后,他把號碼交到了你手里。完成整個查詢過程。
通過上面的步驟,我們最后獲取的是IP地址,也就是瀏覽器最后發(fā)起請求的時候是基于IP來和服務(wù)器做信息交互的。
HTTP協(xié)議詳解
HTTP協(xié)議是Web工作的核心,所以要了解清楚Web的工作方式就需要詳細(xì)的了解清楚HTTP是怎么樣工作的。
HTTP是一種讓W(xué)eb服務(wù)器與瀏覽器(客戶端)通過Internet發(fā)送與接收數(shù)據(jù)的協(xié)議,它建立在TCP協(xié)議之上,一般采用TCP的80端口。它是一個請求、響應(yīng)協(xié)議--客戶端發(fā)出一個請求,服務(wù)器響應(yīng)這個請求。在HTTP中,客戶端總是通過建立一個連接與發(fā)送一個HTTP請求來發(fā)起一個事務(wù)。服務(wù)器不能主動去與客戶端聯(lián)系,也不能給客戶端發(fā)出一個回調(diào)連接。客戶端與服務(wù)器端都可以提前中斷一個連接。例如,當(dāng)瀏覽器下載一個文件時,你可以通過點(diǎn)擊“停止”鍵來中斷文件的下載,關(guān)閉與服務(wù)器的HTTP連接。
HTTP協(xié)議是無狀態(tài)的,同一個客戶端的這次請求和上次請求是沒有對應(yīng)關(guān)系,對HTTP服務(wù)器來說,它并不知道這兩個請求是否來自同一個客戶端。為了解決這個問題, Web程序引入了Cookie機(jī)制來維護(hù)連接的可持續(xù)狀態(tài)。
HTTP協(xié)議是建立在TCP協(xié)議之上的,因此TCP攻擊一樣會影響HTTP的通訊,例如比較常見的一些攻擊:SYN Flood是當(dāng)前最流行的DoS(拒絕服務(wù)攻擊)與DdoS(分布式拒絕服務(wù)攻擊)的方式之一,這是一種利用TCP協(xié)議缺陷,發(fā)送大量偽造的TCP連接請求,從而使得被攻擊方資源耗盡(CPU滿負(fù)荷或內(nèi)存不足)的攻擊方式。
HTTP請求包(瀏覽器信息)
我們先來看看Request包的結(jié)構(gòu), Request包分為3部分,第一部分叫Request line(請求行), 第二部分叫Request header(請求頭),第三部分是body(主體)。header和body之間有個空行,請求包的例子所示:
GET /domains/example/ HTTP/1.1 //請求行: 請求方法 請求URI HTTP協(xié)議/協(xié)議版本
Host:www.iana.org //服務(wù)端的主機(jī)名
User-Agent:Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.4 (KHTML, like Gecko) Chrome/22.0.1229.94 Safari/537.4 //瀏覽器信息
Accept:text/html,application/xhtml+xml,application/xml;q=0.9,/;q=0.8 //客戶端能接收的mine
Accept-Encoding:gzip,deflate,sdch //是否支持流壓縮
Accept-Charset:UTF-8,*;q=0.5 //客戶端字符編碼集
//空行,用于分割請求頭和消息體
//消息體,請求資源參數(shù),例如POST傳遞的參數(shù)
HTTP協(xié)議定義了很多與服務(wù)器交互的請求方法,最基本的有4種,分別是GET,POST,PUT,DELETE。一個URL地址用于描述一個網(wǎng)絡(luò)上的資源,而HTTP中的GET, POST, PUT, DELETE就對應(yīng)著對這個資源的查,改,增,刪4個操作。我們最常見的就是GET和POST了。GET一般用于獲取/查詢資源信息,而POST一般用于更新資源信息。
通過fiddler抓包可以看到如下請求信息:
圖為 fiddler抓取的GET信息
圖?為fiddler抓取的POST信息
我們看看GET和POST的區(qū)別:
- 我們可以看到GET請求消息體為空,POST請求帶有消息體。
- GET提交的數(shù)據(jù)會放在URL之后,以
?
分割URL和傳輸數(shù)據(jù),參數(shù)之間以&
相連,如EditPosts.aspx?name=test1&id=123456
。POST方法是把提交的數(shù)據(jù)放在HTTP包的body中。 - GET提交的數(shù)據(jù)大小有限制(因?yàn)闉g覽器對URL的長度有限制),而POST方法提交的數(shù)據(jù)沒有限制。
- GET方式提交數(shù)據(jù),會帶來安全問題,比如一個登錄頁面,通過GET方式提交數(shù)據(jù)時,用戶名和密碼將出現(xiàn)在URL上,如果頁面可以被緩存或者其他人可以訪問這臺機(jī)器,就可以從歷史記錄獲得該用戶的賬號和密碼。
HTTP響應(yīng)包(服務(wù)器信息)
我們再來看看HTTP的response包,他的結(jié)構(gòu)如下:
HTTP/1.1 200 OK //狀態(tài)行
Server: nginx/1.0.8 //服務(wù)器使用的WEB軟件名及版本
Date:Date: Tue, 30 Oct 2012 04:14:25 GMT //發(fā)送時間
Content-Type: text/html //服務(wù)器發(fā)送信息的類型
Transfer-Encoding: chunked //表示發(fā)送HTTP包是分段發(fā)的
Connection: keep-alive //保持連接狀態(tài)
Content-Length: 90 //主體內(nèi)容長度
//空行 用來分割消息頭和主體
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN"... //消息體
Response包中的第一行叫做狀態(tài)行,由HTTP協(xié)議版本號, 狀態(tài)碼, 狀態(tài)消息 三部分組成。
狀態(tài)碼用來告訴HTTP客戶端,HTTP服務(wù)器是否產(chǎn)生了預(yù)期的Response。HTTP/1.1協(xié)議中定義了5類狀態(tài)碼, 狀態(tài)碼由三位數(shù)字組成,第一個數(shù)字定義了響應(yīng)的類別
- 1XX 提示信息 - 表示請求已被成功接收,繼續(xù)處理
- 2XX 成功 - 表示請求已被成功接收,理解,接受
- 3XX 重定向 - 要完成請求必須進(jìn)行更進(jìn)一步的處理
- 4XX 客戶端錯誤 - 請求有語法錯誤或請求無法實(shí)現(xiàn)
- 5XX 服務(wù)器端錯誤 - 服務(wù)器未能實(shí)現(xiàn)合法的請求
我們看下面這個圖展示了詳細(xì)的返回信息,左邊可以看到有很多的資源返回碼,200是常用的,表示正常信息,302表示跳轉(zhuǎn)。response header里面展示了詳細(xì)的信息。
圖?為 訪問一次網(wǎng)站的全部請求信息
HTTP協(xié)議是無狀態(tài)的和Connection: keep-alive的區(qū)別
無狀態(tài)是指協(xié)議對于事務(wù)處理沒有記憶能力,服務(wù)器不知道客戶端是什么狀態(tài)。從另一方面講,打開一個服務(wù)器上的網(wǎng)頁和你之前打開這個服務(wù)器上的網(wǎng)頁之間沒有任何聯(lián)系。
HTTP是一個無狀態(tài)的面向連接的協(xié)議,無狀態(tài)不代表HTTP不能保持TCP連接,更不能代表HTTP使用的是UDP協(xié)議(面對無連接)。
從HTTP/1.1起,默認(rèn)都開啟了Keep-Alive保持連接特性,簡單地說,當(dāng)一個網(wǎng)頁打開完成后,客戶端和服務(wù)器之間用于傳輸HTTP數(shù)據(jù)的TCP連接不會關(guān)閉,如果客戶端再次訪問這個服務(wù)器上的網(wǎng)頁,會繼續(xù)使用這一條已經(jīng)建立的TCP連接。
Keep-Alive不會永久保持連接,它有一個保持時間,可以在不同服務(wù)器軟件(如Apache)中設(shè)置這個時間。
請求實(shí)例
圖?為一次請求的request和response
上面這張圖我們可以了解到整個的通訊過程,同時細(xì)心的讀者是否注意到了一點(diǎn),一個URL請求但是左邊欄里面為什么會有那么多的資源請求(這些都是靜態(tài)文件,go對于靜態(tài)文件有專門的處理方式)。
這個就是瀏覽器的一個功能,第一次請求url,服務(wù)器端返回的是html頁面,然后瀏覽器開始渲染HTML:當(dāng)解析到HTML DOM里面的圖片連接,css腳本和js腳本的鏈接,瀏覽器就會自動發(fā)起一個請求靜態(tài)資源的HTTP請求,獲取相對應(yīng)的靜態(tài)資源,然后瀏覽器就會渲染出來,最終將所有資源整合、渲染,完整展現(xiàn)在我們面前的屏幕上。
網(wǎng)頁優(yōu)化方面有一項(xiàng)措施是減少HTTP請求次數(shù),就是把盡量多的css和js資源合并在一起,目的是盡量減少網(wǎng)頁請求靜態(tài)資源的次數(shù),提高網(wǎng)頁加載速度,同時減緩服務(wù)器的壓力。