無標題文章

文章介紹

在上一篇博文中,我講述了利用Python的selenium模塊抓取動態數據的方法點擊打開鏈接,那么這些抓到的數據如何處理呢?可以寫入到excel表格中制成表格,進而畫成統計圖表直觀顯示出來。例如按照時間軸統計網站的在線人數,查看哪個時間段人最多,哪個時間段人最少,從而網站維護人員可以按照合適的時間分配資源,用戶則可以選擇合適的時間訪問。
要做到以上所述的數據處理,涉及到兩個問題:
一是如何把數據寫入已存在的表格中,并且多次寫入不會影響先前的數據;
二是如何每隔一段時間運行抓取動態數據的函數和寫入到excel表格的函數,Linux下用crontab很好解決,但windows則比較麻煩。

解決思路

第一個問題,用xlwt模塊不能解決,因為xlwt每次都會把excel文件中已存在的數據清除再寫入,用xlutils模塊可以將數據寫入到已存在的excel中而且不影響sheet中原有的數據。你需要安裝xlutils模塊,聯網狀態下cmd直接輸入pip install xlutils,系統會找到Python的安裝目錄直接下載解壓并安裝這個模塊。等到終端提示完成后可以看看,在C:\Python27\Lib\site-packages目錄下有沒有selenium模塊,這個目錄取決于你安裝Python的路徑。如果有xlutils和xlutils-1.7.1-py2.7.egg-info這兩個文件夾,代表模塊可以在Python程序中被加載了。另外還要安裝xlrd模塊,由這個模塊的子模塊open_workbook對excel文件執行打開操作,返回文件對象讓xlutils的copy子模塊重寫數據進去,安裝xlrd的方法同上。
第二個問題,其實沒那么復雜,一開始還考慮是不是要用到os.system(command)或者windows計劃任務什么的?但是往簡單的角度想,直接寫一個循環:循環里面執行抓取動態數據的函數和寫入到excel表格的函數,然后time.sleep(x)讓進程暫停x秒,接著跳入下一次循環即可。至于什么時候終止循環,引入計數變量即可。

程序實現

思路已經有了,直接上代碼。
運行程序,會自動實現下面一系列的操作:
打開瀏覽器并且打印抓取到的數據列表->把數據寫入到excel中->計數變量加1->關閉session和關閉瀏覽器。
每隔半小時執行一次上述的操作流,這里程序設計成當計數變量到20的時候跳出循環,終止程序運行。

運行效果

在終端打印的結果如下(前4次循環的結果):



版塊名稱和在線人數寫入到excel表格里的效果如下:



從中選擇某幾個版塊,以時間為橫坐標,在線人數為縱坐標,插入折線圖,畫出統計圖表:

這里時間跨度不大,在線人數變化不多,因此折線圖的效果不是很明顯,如果讓程序運行一天,統計24小時內各個時間段的在線人數情況,變化就比較明顯了。按照這種方法實現統計在線人數,簡單直接,并且系統開銷很小。唯一要保證的是,你的瀏覽器能正確訪問指定的url,程序不會異常(好像也不好保證的說= = )。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容

  • 1.要做一個盡可能流暢的ListView,你平時在工作中如何進行優化的? ①Item布局,層級越少越好,使用hie...
    fozero閱讀 756評論 0 0
  • 測試的基本概念 測試是軟件生存周期中十分重要的一個過程,是產品發布、提交給最終用戶前的穩定化階段。 1、 測試的分...
    金金毛閱讀 2,363評論 0 1
  • 今夜沁人的寒光 撲來一陣醉人的清香 它照著我們冷色的衣裝 淡淡地引起一陣悲傷 那是心中的惆悵 你是我最好的朋友 在...
    莫離殤閱讀 169評論 0 0
  • 今天是一個浪漫的日子,農歷七月初七。一大早,群和朋友圈就被情人節各種祝福、文章刷屏,好不熱鬧。 書房坐定,準備打電...
    嚴紅玉閱讀 357評論 0 0