Requests的高級特性

上一篇我們介紹了 Requests 庫的基本用法,學會之后大家就可以應付一般的請求了。這一篇我們接著介紹 Requests 的高級用法,以便應付一些棘手的問題。

會話維持

在 requests 中,直接使用 get() 或 post() 方法確實可以做到模擬網頁的請求,但是這實際上是兩個不同的會話,相當于用了兩個瀏覽器打開不同的頁面,而這兩個頁面是不共享 cookies 的。會話維持相當于打在原來的瀏覽器上新開了一個頁面,這樣就不用每次去設置 cookies 了——這就是Session對象。

s = requests.Session()
s.get('http://httpbin.org/cookies/set/sessioncookie/123456789')
r = s.get("http://httpbin.org/cookies")
print(r.text)

#返回
{
  "cookies": {}
}

這里我們請求了一個測試網站,設置了一個 Cookie ,名稱為 num ,內容為123456,之后又發起了請求,獲取Cookies,結果并沒有取到第一次請求的 Cookie。

試想一種常見的場景:我登錄一個網站之后,點擊里面某個功能的時候,是不需要再登錄的,為什么?因為登錄操作之后,瀏覽器與服務器之間就建立了一個 Session ,我在同一瀏覽器再次請求服務器的時候,共用的是這一個 Session ,所以不用再次登錄。那么如果我使用代碼去請求呢?按照上面的例子,我請求兩次并不會共享 Session,那就沒法實現這個場景功能。而 Requests 的會話可以實現這種場景功能。

我們再來看個例子:

session = requests.Session()
session.get('http://httpbin.org/cookies/set/num/123456')
res = session.get('http://httpbin.org/cookies')
print(res.text)

#返回
{
  "cookies": {
    "num": "123456"
  }
}

這個例子中,我們使用 Session 對象請求,第一次請求設置的 Cookie ,在第二次請求中我們仍然可以獲取到,說明兩次請求在同一個 Session 中。

身份認證

在訪問網站時,我們經常會遇到需要身份認證的頁面,需要輸入用戶名和密碼才能登錄網站。這個時候我們可以使用 Requests 自帶的身份認證功能。

import requests
from requests.auth import HTTPBasicAuth

#請將username和password替換成自己在該網站的登錄用戶名和密碼
res = requests.get('http://www.baidu.com', auth=HTTPBasicAuth('username', 'password'))
print(res.status_code)

#返回
200

如果用戶名和密碼都正確的話,就會成功,返回200狀態碼。否則返回401狀態碼。

SSL證書驗證

現在隨處可見 https 開頭的網站,Requests 可以為 HTTPS 請求驗證 SSL 證書,就像 web 瀏覽器一樣。要想檢查某個主機的 SSL 證書,你可以使用 verify 參數:

import requests

r = requests.get('https://httpbin.org', verify=True)
print(r.text)

如果想檢查驗證某個主機的 SSL 證書,就將 verify 設置為 True ,如果證書無效,就會報 requests.exceptions.SSLError 的錯誤。如果想跳過檢查,就將 verify 參數設置為 False。 verify 參數默認是 True ,所以如果需要的話,需要手動設置下這個變量。

代理設置

對于某些網站,如果請求幾次,或許能正常獲取內容。一旦開始爬取,對于大規模的頻繁請求,網站可能會彈出驗證碼,或者跳轉到登陸認證,或者封禁IP,導致一定時間內無法訪問。此時,就需要設置代理還解決這個問題,就要用到 proxies 參數。

# 代理設置
proxies = {
    'http': 'http://127.0.0.1:9001',
    'https': 'https://127.0.0.2:9002'
}
requests.get('http://www.baidu.com', proxies=proxies)

這里的兩個地址都是編的,僅做示例用。如果你想跑起來的話需要換成有效代理。

SOCKS

除了基本的 HTTP 代理,Request 還支持 SOCKS 協議的代理。這是一個可選功能,若要使用, 你需要安裝第三方庫。你可以用 pip 獲取依賴:

$ pip install requests[socks]

安裝好依賴以后,使用 SOCKS 代理和使用 HTTP 代理一樣簡單:

proxies = {
    'http': 'socks5://user:pass@host:port',
    'https': 'socks5://user:pass@host:port'
}

超時設置

在 Rquests 的基本用法中,我們介紹了超時的用法,通過使用 timeout 參數來配置。例如:

r = requests.get('https://github.com', timeout=5)

我們知道,一個 HTTP 請求會有 connect 和 read 兩部分時間,上面的例子中設置的是二者加起來的超時時間。如果要分別制定,我們需要傳入一個元組:

r = requests.get('https://github.com', timeout=(3.05, 27))

如果遠端服務器很慢,如果你想要 Request 一直等待服務器返回,那么可以給 timeout 賦值 None:

r = requests.get('https://github.com', timeout=None)

總結

本文為大家講述了幾個 Requests 的高級特性,通過掌握這些特性,我們就基本上掌握了 Requests 的常用功能,也可以運用 Requests 去解決實際問題了。我們的 Requests 介紹也就告一段落了,剩下的靠大家去實踐出真知了。

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容