爬蟲-Python學(xué)習(xí)之Requests庫的使用

Requests庫安裝

pip install requests
注意:如果是在MAC的python3中安裝,使用pip3 install requests

Requests庫的方法

Request的基礎(chǔ)方法

Requests常用方法

Requests的get()方法

get方法是我們做為爬蟲最常用的使用方法

使用Requests模塊,在一開始要導(dǎo)入Requests模塊

import requests

然后獲取某個網(wǎng)頁

r = requests.get('http://www.baidu.com')

對響應(yīng)內(nèi)容進(jìn)行處理,requests.get()方法會返回一個Response對象r,我們可以根據(jù)該對象的一些屬性來獲取請求的結(jié)果


Response屬性

Requests會基于HTTP頭部對相應(yīng)的編碼做出有根據(jù)的猜測,當(dāng)訪問r.text的時候。Requests會使用其推測的文本編碼,你可以找出Requests 使用了什么編碼,并且能夠使用 r.encoding 屬性來改變它:

#r.encoding是推測的文本編碼
print(r.encoding)
ISO-8859-1

#r.apparent_encoding是分析響應(yīng)內(nèi)容的文本編碼
print(r.apparent_encoding)
utf-8

#可以通過改變r.encoding編碼的格式來獲取正確編碼的內(nèi)容r.text
r.encoding = r.apparent_encoding

如果想要查看請求是否獲得成功,r.status_code屬性可以獲取到請求狀態(tài)。200表示連接成功通過

Requests的head()方法

head()方法

Requests的post()方法

post根據(jù)用戶提交數(shù)據(jù)的不同,會在服務(wù)器端做出相應(yīng)的處理

post方法是向數(shù)據(jù)庫提交一個字符串

提交字符串

post方法是向數(shù)據(jù)庫提交一個字典數(shù)據(jù)

提交字典

Requests的request()方法

request方法為Requests庫的基礎(chǔ)方法,我們進(jìn)入Requests庫中查看,我們調(diào)用request.get()方法其實是Requests庫為來方便我們使用提供的一種封裝方法。

Request庫的基礎(chǔ)方法

request方法有三個參數(shù)

requests.request(method,url,**kwargs)

method:請求方式,對應(yīng)get/put/post等7中

method請求方式

** kwargs:控制訪問的參數(shù),共13個

參數(shù)集合

1.params:字典或字節(jié)序列,作為參數(shù)增加到URL中

kv = {'key':'value','key2':'value2'}
r = requests.request('GET','http://www.baidu.com',params=kv)
print(r.url)
http://www.baidu.com/?key=value&key2=value2

2.data:字典、字節(jié)序或文件對象,作為Request的內(nèi)容,重點是作為向服務(wù)器提供或提交資源時使用

kv = {'key':'value','key2':'value2'}
r = requests.request('POST','http://www.baidu.com',data=kv)
body = '主體內(nèi)容'
r = requests.request('POST','http://www.baidu.com',data=body)

3.json:JSON格式的數(shù)據(jù),作為request的內(nèi)容

kv = {'key':'value'}
r = requests.request('POST','http://www.baidu.com',json=kv)

4.headers:字典,HTTP定制頭,可以模擬任意的瀏覽器信息向服務(wù)器發(fā)起訪問

hd = {'user-agent':'Chrome/10'}
r = requests.request('POST','http://www.baidu.com',headers=hd)

5.cookies:字典或CookieJar,Request中的cookie

6.auth:元祖,支持HTTP認(rèn)證功能

7.files:字典類型,傳輸文件,向某一個鏈接提供一個文件

fs = {'file':open('/Users/Desktop/Video/Python/5.Requests庫的主要方法解析.mp4','rb')}
r = requests.request('POST','http://www.baidu.com',files=fs)

8.timeout:設(shè)定超時時間,秒為單位

r = requests.request('GET','http://www.baidu.com',timeout=10)

9.proxies:字典類型,設(shè)定訪問代理服務(wù)器,可以增加登錄認(rèn)證

pxs = {'http':'http://user:pass@10.10.10.1:80',
       'https':'https://10.10.10.1:8080'}
r = requests.request('GET','http://www.baidu.com',proxies=pxs)

10.allow_redirects: True/False,默認(rèn)為Ture,重定向開關(guān)

11.stream: True/False,默認(rèn)為Ture,獲取內(nèi)容是否立即下載

12.verify: True/False,默認(rèn)為Ture,認(rèn)證SSL證書開關(guān)

13.cert:本地SSL證書路徑

推薦閱讀

HTPP的協(xié)議與Requests庫方法的關(guān)系

參考網(wǎng)址

Requests庫官方文檔

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,563評論 6 544
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,694評論 3 429
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,672評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,965評論 1 318
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點故事閱讀 72,690評論 6 413
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 56,019評論 1 329
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 44,013評論 3 449
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 43,188評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,718評論 1 336
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點故事閱讀 41,438評論 3 360
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發(fā)現(xiàn)自己被綠了。 大學(xué)時的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,667評論 1 374
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,149評論 5 365
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點故事閱讀 44,845評論 3 351
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,252評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,590評論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,384評論 3 400
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點故事閱讀 48,635評論 2 380

推薦閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn),斷路器,智...
    卡卡羅2017閱讀 134,830評論 18 139
  • By 一頁編程 下面我們介紹一下requests庫主要方法,并且對這些方法進(jìn)行解析。Requests庫與HTTP...
    一頁編程閱讀 1,331評論 0 9
  • requests(爬蟲系列之一) 由于最近工作中,與同事對接模擬手機(jī)瀏覽器進(jìn)行廣告模擬跳轉(zhuǎn)。又一次接觸用到爬蟲的知...
    若與閱讀 39,192評論 7 76
  • 安裝 pip install requests Response對象 Response對象包含服務(wù)器返回的所有信息...
    紅茶紳士閱讀 1,242評論 0 2
  • 只欠夕陽河畔影,奈何無恨卻逢春。
    落絮悄悄閱讀 211評論 0 0