08_知乎

簡述

本節繼續實現知乎關注對象用戶信息,主要使用 json 解析,cookie 模擬等手段實現。

目標對象

依舊是知乎輪子哥關注對象

使用包

import codecs
import json
import time, os #定時抓取
import requests 
import datetime #精確時間

主要實現方式

Paste_Image.png

通過抓包分析,確定目標json,嘗試直接抓取,返回封裝錯誤

{'error': {'message': '請求頭或參數封裝錯誤', 'code': 100, 'name': 'AuthenticationInvalidRequest'}}

嘗試直接使用已登錄cookie抓取

cookies = {}

raw_cookies = '自己的key,可通過F12瀏覽器,查看替換'

for line in raw_cookies.split(':'):
    key,value = line.split('=', 1)
    cookies[key] = value

def download_page(url):
    return requests.get(url,cookies=cookies, headers={
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_2) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/47.0.2526.80 Safari/537.36'
    }, timeout=120).json()

返回json解析

Paste_Image.png

總結

本次實現過程中主要涉及cookie模擬(還可擴展自行實現模擬登錄,獲取cookie),其他遞歸操作、文件輸出、圖片另存均于之前示例一致,只能算簡單復習。

Paste_Image.png

源碼:
spider_www.zhihu.com_following_json

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容

  • Spring Cloud為開發人員提供了快速構建分布式系統中一些常見模式的工具(例如配置管理,服務發現,斷路器,智...
    卡卡羅2017閱讀 134,937評論 18 139
  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 173,335評論 25 708
  • 發現 關注 消息 iOS 第三方庫、插件、知名博客總結 作者大灰狼的小綿羊哥哥關注 2017.06.26 09:4...
    肇東周閱讀 12,241評論 4 61
  • 愛·不語 心有靈犀勝過千言萬語。 靜靜聆聽勝過滔滔不絕。 默默付出勝過娓娓而談。 愛,不需言語。 情,只在眼里。
    希冀羽翼閱讀 202評論 0 1
  • 你應該努力尋找生活美好的部分 去愛別人身上的優點 去愛自己 當然世界上有很多壞人 由於他們的家庭和環境 你不要去怪...
    雞毛蒜皮的小世界閱讀 187評論 0 2