import urllib.request
import re
keyname="西褲"
key=urllib.request.quote(keyname)
import random
uapools=[
"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36",
"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36 QIHU 360SE",
"Opera/12.02 (Android 4.1; Linux; Opera Mobi/ADR-1111101157; U; en-US) Presto/2.9.201 Version/12.02",
]
def ua(uapools):
thisua=random.choice(uapools)
print(thisua)
headers=("User-Agent",thisua)
opener=urllib.request.build_opener()
opener.addheaders=[headers]
urllib.request.install_opener(opener)
for i in range(1,101):
url="https://s.taobao.com/search?q=" + key + "&s=" + str((i-1)*44)
ua(uapools)
data=urllib.request.urlopen(url).read().decode("utf-8", "ignore")
pat='"pic_url":"http://(.*?)"'
imglist=re.compile(pat).findall(data)
for j in range(0,len(imglist)):
try:
thisimg=imglist[j]
thisimgurl="http://"+thisimg
localfile="D:/tmp/a/" + str(i) + str(j) + ".jpg"
urllib.request.urlretrieve(thisimgurl, filename=localfile)
except Exception as err:
print(err)
爬取淘寶商品圖片(用戶代理池)
最后編輯于 :
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
推薦閱讀更多精彩內容
- 案例目的:爬取58同城寵物狗信息難點 - 自動代理:爬取58信息前,自動設置 http://www.xicidai...
- 瑜伽體式之一,是常見的瑜伽體式。這個體式增強腿部肌肉,去除腿部和臀部僵硬,糾正腿部畸形,使腿部能均勻地發展。同時還...