urllib代理服務器設置

ip代理的一個網站,如果代理信息有誤或者代理無法使用則會發生被遠程主機拒絕訪問等錯誤

#1.首先建立一個名為use_proxy的自定義函數,該函數的主要實現使用代理服務器來爬取url的功能
#2.該函數有兩個參數,一個為代理地址,另一個為url地址
#3.使用urllib.request.ProxyHandler()來設置對用的代理服務器信息
#4. 使用urllib.request.install_opener()創建全局opener對象
import urllib.request

def use_proxy(proxy_addr,url):
    proxy = urllib.request.ProxyHandler({'http':proxy_addr})
    opener = urllib.request.build_opener(proxy,urllib.request.HTTPHandler)
    urllib.request.install_opener(opener)
    data = urllib.request.urlopen(url).read().decode('utf-8')
    return data

proxy_addr = '60.178.1.122:8081'
data = use_proxy(proxy_addr,'http://www.baidu.com')
print(len(data))
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容

  • Spring Cloud為開發人員提供了快速構建分布式系統中一些常見模式的工具(例如配置管理,服務發現,斷路器,智...
    卡卡羅2017閱讀 134,837評論 18 139
  • 1. 網絡基礎TCP/IP HTTP基于TCP/IP協議族,HTTP屬于它內部的一個子集。 把互聯網相關聯的協議集...
    yozosann閱讀 3,456評論 0 20
  • 上一篇《WEB請求處理一:瀏覽器請求發起處理》,我們講述了瀏覽器端請求發起過程,通過DNS域名解析服務器IP,并建...
    七寸知架構閱讀 81,137評論 21 356
  • 序 在英國有一首民謠: 薰衣草呀,遍地開放。 藍花綠葉,清香滿懷。 我為國王,你是王后。 拋下硬幣,許個心愿 。 ...
    咬痕吖閱讀 235評論 0 1
  • 第一篇博客,多多指教。 多文件的上傳問題 首先File Transfer 插件,可以download、upload...
    龍貓神閱讀 577評論 1 3