一、HTTP協議
HTTP(Hyper Text Transfer Protocol)意為超文本傳輸協議,它提供了一種發布和接收HTML網頁的方法,我們一般稱客戶端為用戶代理程序(user agent),應答的服務器上存儲著一些資源,比如HTML文件和圖像,我們稱這個應答服務器為源服務器。而HTTP就是一個客戶端終端(用戶)和服務器端(網站)請求和應答(其實簡單看來就是瀏覽網頁的過程)的標準。
二、請求方法
在HTTP協議中,定義了八種方法來操作指定的資源(下面只會用到GET,POST):
OPTIONS,HEAD,GET,POST,PUT,DELETE,TRACE,CONNECT。
簡單說明一下各個方法的功能:
OPTIONS:使服務器傳回該資源所支持的所有HTTP請求方法,可以測試服務器功能是否正常運作。
HEAD:向服務器發出指定資源的請求,只不過服務器將不傳回資源的本文部分。
GET:向指定的資源發出“顯示”請求。
POST:向指定資源提交數據,請求服務器進行處理(例如提交表單或者上傳文件)。
PUT:向指定的資源上傳最新內容。
DELETE:請求服務器刪除所標識的資源。
TRACE:顯示服務器收到的請求,用于測試。
CONNECT:通常用于SSL加密服務器的鏈接。
(以上參考維基百科)
通常我們瀏覽網頁時,其實就是一個GET方法,從服務器端加載網頁進來。
所以GET是其中最常用的一種方法。而在我們平常使用(比如爬蟲)時,幾乎都要用到這個方法。
三、安裝requests
>>>pip install requests
一、發送請求
首先導入requests庫
>>>import requests
導入后,你就可以直接發出請求了:
>>>r=requests.get('https://www.zhihu.com/')
這樣一來,你就得到了一個Response對象r,這個對象里已經包含了你想要的網頁信息。
遇到某些需要登錄驗證信息的網站,只用GET方法是得不到在瀏覽器上看到的網頁的,這時你得附帶headers和cookies:
>>>r=requests.get('https://www.zhihu.com/',headers={'key':'value'},cookies={'key':'value'})
其中headers和cookies參數是以字典的方式存儲的,它們的信息可以在瀏覽器里開發者工具中看到。一般headers用以偽裝成瀏覽器,而cookies是你存儲的表單密碼cookie。這兩者在請求網頁內容中最常用,如果請求失敗時,可以檢查一下看看自己有沒有將headers和cookies考慮進來。
二、傳遞參數進URLs
在使用該方法前你需要了解網址的參數,網址中一般在后面加上?號,而問號后面帶的是一串參數,比如:
>>>paylod={'key1':'value1','key2':['value2','value3']}>>>r=requests.get('https://www.zhihu.com/get',params=payload)>>>print(r)https://www.zhihu.com/get?key1=value1&key2=value2&key2=value3
這種帶參數的網址,在一些有表格數據的網站非常常見。
三、響應內容
用上面獲取的Response對象的.text方法,可以得到網頁的內容:
>>>r.textu'....................'
requests會自動為你編碼,你可以用.encoding方法查看編碼,或是更改編碼格式:
>>>r.encoding'utf-8'>>>r.encoding='ISO-8859-1'
除了.text方法外,還有其它響應內容的方法:
1.如果想獲得二進制,可以用.content的方法:
>>>r.contentb'..................'
2.用.json()方法可以返回json內容:
>>>r.json()b'{'xxx':'xxx'}'
3.在某些情況下你可能需要得到原始套接字回應,此時你可以在原始的request請求中將stream參數設為True,然后再用.raw方法:
>>>r=requests.get('http://www.zhihu.com/get',stream=True)>>>r.raw
四、返回狀態碼
在發送請求后,我們可以通過以下方法檢查狀態碼:
>>>r.status_code200
requests還提供了一個簡單的參考方式:
r.status_code==requests.codes.okTrue
如果我們發送了一個錯誤的請求,可以用.raise_for_status()來引出一個錯誤:
>>>r.status_code404>>>r.raise_for_status()Traceback(mostrecentcalllast):File"requests/models.py",line832,inraise_for_statusraisehttp_errorrequests.exceptions.HTTPError:404ClientError
五、返回請求頭
我們可以點取屬性取得請求時的請求頭(Headers):
>>>r.headers{'content-encoding':'gzip','transfer-encoding':'chunked','connection':'close','server':'nginx/1.0.4','x-runtime':'148ms','etag':'"e1ca502697e5c9317743dc078f67693f"','content-type':'application/json'}
所以我們可以直接訪問我們想要的內容:
>>>r.headers['content-encoding']'gzip'
同理,你也可以通過這種方式訪問Cookies:
>>>r.cookies['example_cookie_name']'example_cookie_value'
六、重定向和歷史紀錄
在了解該功能前,你需要了解重定向的內容,重定向指的是把你的網絡請求重新定個方向,讓它轉移到其它位置。為什么要重定向呢?因為當你的網絡結構發生變化、更換網址和改變擴展名(比如.php改成.html)時,如果不進行重定向,用戶便會訪問到一個錯誤的網址,從而發生錯誤,使網站損失用戶。所以,在一些網站進行重大改版時,在進入網頁時你常常會發現出現跳轉的情況,其實就是重定向。
在requests中,可以用history方法來追蹤重定向。同時可以在請求時選擇開啟或關閉重定向(除了HEAD請求外,默認都是開啟。)
>>>r=requests.get('http://github.com',allow_redirects=True)>>>r.history[]
七、超時設定
你可以傳入一個時限來限定requests最大訪問時間,當無響應時長超過這個時限時,就會發生錯誤:
>>r=requests.get('http://www.zhihu.com/',timeout=0.1)Traceback(mostrecentcalllast):File"",line1,inrequests.exceptions.Timeout:HTTPConnectionPool(host='github.com',port=80):Requesttimedout.(timeout=0.1)
寫在最后
本文翻譯于官方文檔(雖然寫完才發現有中文版。。),其中內容經過自己的一些理解所寫,對原有文檔進行了適當刪減,同時一些地方的知識做了點補充。
轉自知乎作者:林駿翔
鏈接:https://zhuanlan.zhihu.com/p/21976757
來源:知乎