文章介紹
在上一篇博文中,我講述了利用Python的selenium模塊抓取動態數據的方法點擊打開鏈接,那么這些抓到的數據如何處理呢?可以寫入到excel表格中制成表格,進而畫成統計圖表直觀顯示出來。例如按照時間軸統計網站的在線人數,查看哪個時間段人最多,哪個時間段人最少,從而網站維護人員可以按照合適的時間分配資源,用戶則可以選擇合適的時間訪問。
要做到以上所述的數據處理,涉及到兩個問題:
一是如何把數據寫入已存在的表格中,并且多次寫入不會影響先前的數據;
二是如何每隔一段時間運行抓取動態數據的函數和寫入到excel表格的函數,Linux下用crontab很好解決,但windows則比較麻煩。
解決思路
第一個問題,用xlwt模塊不能解決,因為xlwt每次都會把excel文件中已存在的數據清除再寫入,用xlutils模塊可以將數據寫入到已存在的excel中而且不影響sheet中原有的數據。你需要安裝xlutils模塊,聯網狀態下cmd直接輸入pip install xlutils,系統會找到Python的安裝目錄直接下載解壓并安裝這個模塊。等到終端提示完成后可以看看,在C:\Python27\Lib\site-packages目錄下有沒有selenium模塊,這個目錄取決于你安裝Python的路徑。如果有xlutils和xlutils-1.7.1-py2.7.egg-info這兩個文件夾,代表模塊可以在Python程序中被加載了。另外還要安裝xlrd模塊,由這個模塊的子模塊open_workbook對excel文件執行打開操作,返回文件對象讓xlutils的copy子模塊重寫數據進去,安裝xlrd的方法同上。
第二個問題,其實沒那么復雜,一開始還考慮是不是要用到os.system(command)或者windows計劃任務什么的?但是往簡單的角度想,直接寫一個循環:循環里面執行抓取動態數據的函數和寫入到excel表格的函數,然后time.sleep(x)讓進程暫停x秒,接著跳入下一次循環即可。至于什么時候終止循環,引入計數變量即可。
程序實現
思路已經有了,直接上代碼。
運行程序,會自動實現下面一系列的操作:
打開瀏覽器并且打印抓取到的數據列表->把數據寫入到excel中->計數變量加1->關閉session和關閉瀏覽器。
每隔半小時執行一次上述的操作流,這里程序設計成當計數變量到20的時候跳出循環,終止程序運行。
運行效果
在終端打印的結果如下(前4次循環的結果):
版塊名稱和在線人數寫入到excel表格里的效果如下:
從中選擇某幾個版塊,以時間為橫坐標,在線人數為縱坐標,插入折線圖,畫出統計圖表:
這里時間跨度不大,在線人數變化不多,因此折線圖的效果不是很明顯,如果讓程序運行一天,統計24小時內各個時間段的在線人數情況,變化就比較明顯了。按照這種方法實現統計在線人數,簡單直接,并且系統開銷很小。唯一要保證的是,你的瀏覽器能正確訪問指定的url,程序不會異常(好像也不好保證的說= = )。