(轉)Python模塊之requests

一、HTTP協議

HTTP(Hyper Text Transfer Protocol)意為超文本傳輸協議,它提供了一種發布和接收HTML網頁的方法,我們一般稱客戶端為用戶代理程序(user agent),應答的服務器上存儲著一些資源,比如HTML文件和圖像,我們稱這個應答服務器為源服務器。而HTTP就是一個客戶端終端(用戶)和服務器端(網站)請求和應答(其實簡單看來就是瀏覽網頁的過程)的標準。

二、請求方法

在HTTP協議中,定義了八種方法來操作指定的資源(下面只會用到GET,POST):

OPTIONS,HEAD,GET,POST,PUT,DELETE,TRACE,CONNECT。

簡單說明一下各個方法的功能:

OPTIONS:使服務器傳回該資源所支持的所有HTTP請求方法,可以測試服務器功能是否正常運作。

HEAD:向服務器發出指定資源的請求,只不過服務器將不傳回資源的本文部分。

GET:向指定的資源發出“顯示”請求。

POST:向指定資源提交數據,請求服務器進行處理(例如提交表單或者上傳文件)。

PUT:向指定的資源上傳最新內容。

DELETE:請求服務器刪除所標識的資源。

TRACE:顯示服務器收到的請求,用于測試。

CONNECT:通常用于SSL加密服務器的鏈接。

(以上參考維基百科)

通常我們瀏覽網頁時,其實就是一個GET方法,從服務器端加載網頁進來。

所以GET是其中最常用的一種方法。而在我們平常使用(比如爬蟲)時,幾乎都要用到這個方法。

三、安裝requests

>>>pip install requests

一、發送請求

首先導入requests庫

>>>import requests

導入后,你就可以直接發出請求了:

>>>r=requests.get('https://www.zhihu.com/')

這樣一來,你就得到了一個Response對象r,這個對象里已經包含了你想要的網頁信息。

遇到某些需要登錄驗證信息的網站,只用GET方法是得不到在瀏覽器上看到的網頁的,這時你得附帶headers和cookies:

>>>r=requests.get('https://www.zhihu.com/',headers={'key':'value'},cookies={'key':'value'})

其中headers和cookies參數是以字典的方式存儲的,它們的信息可以在瀏覽器里開發者工具中看到。一般headers用以偽裝成瀏覽器,而cookies是你存儲的表單密碼cookie。這兩者在請求網頁內容中最常用,如果請求失敗時,可以檢查一下看看自己有沒有將headers和cookies考慮進來。

二、傳遞參數進URLs

在使用該方法前你需要了解網址的參數,網址中一般在后面加上?號,而問號后面帶的是一串參數,比如:

>>>paylod={'key1':'value1','key2':['value2','value3']}>>>r=requests.get('https://www.zhihu.com/get',params=payload)>>>print(r)https://www.zhihu.com/get?key1=value1&key2=value2&key2=value3

這種帶參數的網址,在一些有表格數據的網站非常常見。

三、響應內容

用上面獲取的Response對象的.text方法,可以得到網頁的內容:

>>>r.textu'....................'

requests會自動為你編碼,你可以用.encoding方法查看編碼,或是更改編碼格式:

>>>r.encoding'utf-8'>>>r.encoding='ISO-8859-1'

除了.text方法外,還有其它響應內容的方法:

1.如果想獲得二進制,可以用.content的方法:

>>>r.contentb'..................'

2.用.json()方法可以返回json內容:

>>>r.json()b'{'xxx':'xxx'}'

3.在某些情況下你可能需要得到原始套接字回應,此時你可以在原始的request請求中將stream參數設為True,然后再用.raw方法:

>>>r=requests.get('http://www.zhihu.com/get',stream=True)>>>r.raw

四、返回狀態碼

在發送請求后,我們可以通過以下方法檢查狀態碼:

>>>r.status_code200

requests還提供了一個簡單的參考方式:

r.status_code==requests.codes.okTrue

如果我們發送了一個錯誤的請求,可以用.raise_for_status()來引出一個錯誤:

>>>r.status_code404>>>r.raise_for_status()Traceback(mostrecentcalllast):File"requests/models.py",line832,inraise_for_statusraisehttp_errorrequests.exceptions.HTTPError:404ClientError

五、返回請求頭

我們可以點取屬性取得請求時的請求頭(Headers):

>>>r.headers{'content-encoding':'gzip','transfer-encoding':'chunked','connection':'close','server':'nginx/1.0.4','x-runtime':'148ms','etag':'"e1ca502697e5c9317743dc078f67693f"','content-type':'application/json'}

所以我們可以直接訪問我們想要的內容:

>>>r.headers['content-encoding']'gzip'

同理,你也可以通過這種方式訪問Cookies:

>>>r.cookies['example_cookie_name']'example_cookie_value'

六、重定向和歷史紀錄

在了解該功能前,你需要了解重定向的內容,重定向指的是把你的網絡請求重新定個方向,讓它轉移到其它位置。為什么要重定向呢?因為當你的網絡結構發生變化、更換網址和改變擴展名(比如.php改成.html)時,如果不進行重定向,用戶便會訪問到一個錯誤的網址,從而發生錯誤,使網站損失用戶。所以,在一些網站進行重大改版時,在進入網頁時你常常會發現出現跳轉的情況,其實就是重定向。

在requests中,可以用history方法來追蹤重定向。同時可以在請求時選擇開啟或關閉重定向(除了HEAD請求外,默認都是開啟。)

>>>r=requests.get('http://github.com',allow_redirects=True)>>>r.history[]

七、超時設定

你可以傳入一個時限來限定requests最大訪問時間,當無響應時長超過這個時限時,就會發生錯誤:

>>r=requests.get('http://www.zhihu.com/',timeout=0.1)Traceback(mostrecentcalllast):File"",line1,inrequests.exceptions.Timeout:HTTPConnectionPool(host='github.com',port=80):Requesttimedout.(timeout=0.1)

寫在最后

本文翻譯于官方文檔(雖然寫完才發現有中文版。。),其中內容經過自己的一些理解所寫,對原有文檔進行了適當刪減,同時一些地方的知識做了點補充。


轉自知乎作者:林駿翔

鏈接:https://zhuanlan.zhihu.com/p/21976757

來源:知乎

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,327評論 6 537
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,996評論 3 423
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,316評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,406評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,128評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,524評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,576評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,759評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,310評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,065評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,249評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,821評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,479評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,909評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,140評論 1 290
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,984評論 3 395
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,228評論 2 375

推薦閱讀更多精彩內容