Python requests 使用心得

最近在用requests寫一些項目,遇見了一些問題,百度了很多,有些都不太好使,最后看了下requestsAPI文檔,才明白了很多,最后項目趨于穩定。看來學東西還是API文檔比較權威啊~

問題場景

項目需要通過一臺主機搭上代理向目標服務器定時交換數據,主機上同時跑著比較占用資源的其他項目。

項目設計思路

因為主機上已經運行了比較占用線程內存資源的其他項目,所以計劃本項目就應該在不能太占用資源,的前提下保持比較流暢的運行。

設計了在線程下加上定時器的思路,定時運行相關網絡請求方法。

請求量 :每隔5秒鐘,發送10 ~ 30個請求。

核心代碼

headers = {"Content-Type": "application/json;charset=uf8"}
url = config.baseurl + path
try:
    
    response = requests.post(url, data= data, headers=headers ,stream= False,timeout= 10)

except Exception as indentfier:

    time.sleep(5)
    getLoaclObjs(False)

par = json.loads(data)

if response != None:
    print(" method name = ", par["IPCType"],"\n sendData = ",json.dumps(par), "\n response.state.code = ",response.status_code,"\n response.text = ",response.text,"\n\n", url, "\n\n")   

問題:

報錯:

HTTPConnectionPool(host='172.19.5.101', port=8085): Max retries exceeded with url: <url >(Caused by ConnectTimeoutError(<urllib3.connection.HTTPConnection object at 0x006DB1F0>, 'Connection to <server ip> timed out. (connect timeout=10)'))

分析:

報錯的重點在于 connect timeout

解決方案

1.由于是timeout的報錯,所以為了項目穩定首先要做的就是做好重連操作,在代碼中其實已經做好了 try ... except 中 except中為錯誤處理。再次調用了方法。

2.處理過后數據交互沒有了毛病,但是報錯仍然頻繁,甚至后邊有了新的錯誤:

requests.exceptions.ConnectionError: ('Connection aborted.', ConnectionAbortedError(10053, '你的主機中的軟件中止了一個已建立的連接。', None, 10053, None))

度娘和overflow都告訴我添加一下代碼:

#設置重連次數
requests.adapters.DEFAULT_RETRIES = 15
# 設置連接活躍狀態為False
s = requests.session()
s.keep_alive = False

基本上意思就是發出的網絡請求比較頻繁,requests內置的urllibs3不能及時的為我們斷開連接,于是就有了以上報錯。
代碼的基本意思就是斷開連接、增加重試次數。

headers = {"Content-Type": "application/json;charset=uf8"}
url = config.baseurl + path
try:
     #設置重連次數
    requests.adapters.DEFAULT_RETRIES = 15
    # 設置連接活躍狀態為False
    s = requests.session()
    s.keep_alive = False
    response = requests.post(url, data= data, headers=headers ,stream= False,timeout= 10)

except Exception as indentfier:

    time.sleep(5)
    getLoaclObjs(False)

par = json.loads(data)

if response != None:
    print(" method name = ", par["IPCType"],"\n sendData = ",json.dumps(par), "\n response.state.code = ",response.status_code,"\n response.text = ",response.text,"\n\n", url, "\n\n")   

還有別的處理方法就是增加代理,由于主機是用代理的,所以項目換別的代理就不太現實,否則有可能直接連接不上目標服務器。

于是想到了直接管理內存,文檔上是這么表述的:

好消息——歸功于 urllib3,同一會話內的持久連接是完全自動處理的!同一會話內你發出的任何請求都會自動復用恰當的連接!
注意:只有所有的響應體數據被讀取完畢連接才會被釋放為連接池;所以確保將 stream 設置為 False 或讀取 Response 對象的 content 屬性。

也就是說除非stream=False或者response.content /response.text被操作,不然該請求不會被釋放。
同其他的自動管理內存的語言一樣,不論垃圾回收還是引用計數,都存在一個問題就是內存釋放比較緩慢,于是我就在代碼中手動關閉了連接。

    headers = {'Content-Type': "application/json;charset=uf8"}
    url = baseurl + path
    response = None
    try:
        #設置重連次數
        requests.adapters.DEFAULT_RETRIES = 5
        s = requests.session()
        # 設置連接活躍狀態為False
        s.keep_alive = False
        response = requests.post(url, data=data, headers=headers,stream=False,timeout= 10)
        # 關閉請求  釋放內存
        response.close()
        del(response)  
    except Exception as indentfier:

        time.sleep(5)
        timer = threading.Timer(timerFlag, upload_position)
        timer.start()

最終有效減少了報錯次數。

__End ~

? ?
? ?
? ?

親情鏈接:
個人網站

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,546評論 6 533
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,570評論 3 418
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,505評論 0 376
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,017評論 1 313
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,786評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,219評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,287評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,438評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,971評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,796評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,995評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,540評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,230評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,662評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,918評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,697評論 3 392
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,991評論 2 374

推薦閱讀更多精彩內容

  • Spring Cloud為開發人員提供了快速構建分布式系統中一些常見模式的工具(例如配置管理,服務發現,斷路器,智...
    卡卡羅2017閱讀 134,785評論 18 139
  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,661評論 25 708
  • 我們的命運由我們的行動決定,而絕非完全由我們的出身決定。享有特權而無力量的人是廢物,受過教育而無影響的人是一堆一文...
    喬巖憶夢閱讀 180評論 0 0
  • 預演與驗收: 笑來老師分享他能在臺上顯得游刃有余的方法是進行預演。他的準備充足而精心,每個觀點、每個...
    遇見_22ed閱讀 127評論 0 0
  • fetchedresults 控制器 提供下面3種模式: 1.不追蹤模式:delegate設為nil. 只提供基本...
    Kevin_Junbaozi閱讀 1,258評論 0 1