B站每日排行榜爬蟲

原創(chuàng)文章,轉(zhuǎn)載請(qǐng)注明出處,歡迎關(guān)注微信公眾號(hào):Romi的雜貨鋪
回復(fù)b站每日排行榜爬蟲獲取全部源碼

爬取B站排行榜前100名的視頻名稱,作者和播放量,用到的主要有request庫(kù)獲取網(wǎng)頁(yè)信息,用正則解析網(wǎng)頁(yè)并使用openpyxl將信息保存在Excel中

第一部分為請(qǐng)求網(wǎng)頁(yè)獲取信息部分,request庫(kù)的基本用法

def get_html_text(url,self_header):
    try:
        response = requests.get(url,headers=self_header,timeout=30)
        response.raise_for_status()
        response.encoding = response.apparent_encoding
        #print(response.text)
        return response.text
    except:
        return ""

第二部分為用正則表達(dá)式解析網(wǎng)頁(yè)內(nèi)容并保存到Excel

def re_get_inf(html):
    list=[]
    rank_list=re.findall(r'<div class="num">(\d*)</div>',html)#排名
    title_list=re.findall(r'<div class="info"><a href=[\s\S]*?class="title">([\s\S]*?)</a><!---->',html)#視頻名稱
    play_num=re.findall(r'<div class="detail"><span class="data-box"><i class="b-icon play"></i>(\d*.\d*)\S</span>',html)#播放量
    author_list=re.findall(r'<span class="data-box"><i class="b-icon author"></i>([\s\S]*?)</span>',html)#UP主名稱
    wb=Workbook()#新建保存文件
    sheet=wb.active
    sheet.append(['rank','title','playnum','author'])#寫入標(biāo)題名稱
    for i in range(len(rank_list)):
        rank = rank_list[i]
        title = title_list[i]
        playnum=play_num[i]
        author=author_list[i]
        sheet.append([rank,title,playnum,author])#寫入數(shù)據(jù)
    wb.save('bilibili_rankdata.xlsx')#保存文件

完整代碼如下所示,代碼與結(jié)果文件鏈接:

https://github.com/smilecoc/bilibili_rankdata

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

推薦閱讀更多精彩內(nèi)容

  • HTTP基本原理 URI、URL、URN(Uninform Resource) URI(Identifier):統(tǒng)...
    GHope閱讀 2,125評(píng)論 2 26
  • 天氣熱,真不想在廚房里多呆,即使開著冷空調(diào)。 周日,女婿休息在家,睡個(gè)懶覺(jué),早餐要比平時(shí)晚一個(gè)多小時(shí)。 煮粥,蒸些...
    汾湖秀閱讀 1,505評(píng)論 38 37
  • 容器中的工廠Bean: 此處的工廠Bean與前面介紹的實(shí)例工廠方法創(chuàng)建Bean、靜態(tài)工廠創(chuàng)建Bean有所區(qū)別: 前...
    FTOLsXD閱讀 511評(píng)論 0 1
  • 一、繪本教學(xué)的價(jià)值追求 1.尊重閱讀需求,激發(fā)閱讀興趣在教學(xué)過(guò)程中,教師只有摒棄自己的閱讀成見,拓展狹窄的心靈空問(wèn)...
    大咖繪本館閱讀 437評(píng)論 0 1
  • 在高中時(shí)就看到同學(xué)在看《殺死一只知更鳥》,但真正拿起書去看,是在看到今年2月哈珀.李去世的新聞之后。今年是一個(gè)令文...
    許桉閱讀 450評(píng)論 0 1