Python: 封裝版本爬取虎撲籃球圖片

本文是上一篇的續(xù)后期將進(jìn)行封裝,以提高可用性。

虎撲在展示圖片的時(shí)候偷懶了,直接給出了原圖鏈接,直接獲取這個(gè)鏈接,下載到本地即可。

這里使用PhantomJS來打開瀏覽器。

使用urllib2下載圖片

# download one picture by urllib2
def downloadPicture(pic_url, pic_path):
    f = urllib2.urlopen(pic_url)
    with open(pic_path, "wb") as img_file:
        img_file.write(f.read())

逐個(gè)獲取每個(gè)圖片

def getPictures(elem_url, nums, path):
    try:
        count = 1
        t = elem_url.find(r'.html')
        while (count <= nums):
            html_url = elem_url[:t-2] + '-' + str(count) + '.html'
            # Set proxy
            proxy_support = urllib2.ProxyHandler({"http": "http://yout_proxy:8080/"})
            opener = urllib2.build_opener(proxy_support)
            urllib2.install_opener(opener)
            driver.get(html_url)
            elem = driver.find_element_by_xpath("http://div[@class='pic_bg']/div/img")
            url = elem.get_attribute("src")
            file_name = os.path.basename(url).replace('*','')
            fname = path + "\\" + file_name
            downloadPicture(url, fname)
            count += 1
    except Exception, e:
        print "Error: ", e
    finally:
        print "Download " + str(count-1) + ' pictures\n'

主程序

if __name__ == "__main__":
    elem_url = "http://photo.hupu.com/nba/p29556-1.html"
    nums = 15
    # Create folder for store picture
    sub_folder = os.path.join(os.getcwd(), "hupupic")
    if not os.path.exists(sub_folder):
        os.mkdir(sub_folder)
    # os.chdir(sub_folder)
    pic_path = sub_folder
    getPictures(elem_url, nums, pic_path)
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,106評論 6 542
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,441評論 3 429
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,211評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,736評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,475評論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,834評論 1 328
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,829評論 3 446
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 43,009評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,559評論 1 335
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,306評論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,516評論 1 374
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,038評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,728評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,132評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,443評論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 52,249評論 3 399
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,484評論 2 379

推薦閱讀更多精彩內(nèi)容

  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,728評論 25 708
  • 發(fā)現(xiàn) 關(guān)注 消息 iOS 第三方庫、插件、知名博客總結(jié) 作者大灰狼的小綿羊哥哥關(guān)注 2017.06.26 09:4...
    肇東周閱讀 12,170評論 4 61
  • 上篇文章 使用 XPath 提取網(wǎng)頁信息 之后,將鏈接中的內(nèi)容下載至本地,需要使用到 urllib2 。更多見:i...
    mmmwhy閱讀 11,764評論 1 9
  • 暑假過去了一個(gè)月,參加培訓(xùn)班的學(xué)員完成了一半的課程,有些學(xué)員第一輪也已經(jīng)結(jié)束。我們按照之前制定的計(jì)劃,就學(xué)員...
    Rac_sun閱讀 1,384評論 2 5
  • 你是一個(gè)挑食的人嗎? 從記事起,我媽就說我挑食,是個(gè)活脫脫的叼嘴貓。 也不知道為什么,好像以前不吃的東西真的有很多...
    Yigo閱讀 2,247評論 0 1