Android利用Jsoup抓取數據,再也不怕寫App沒有數據啦

因為最近有部分小伙伴私信我詢問關于我很久前寫的一個教務系統App的一些問題,鑒于那個項目實在是停止維護太久了,代碼都是一年多前寫的,已經登陸不進去了,本著授人與魚不如授人與漁的原則,于是寫了這篇博客。

原理很簡單,閱讀本文大概需要3分鐘。

Jsoup介紹

先附上官方介紹:

Jsoup is a Java library for working with real-world HTML. It provides a very convenient API for extracting and manipulating data, using the best of DOM, CSS, and jquery-like methods.

Jsoup是一個用來處理html文本的java庫。它提供了非常方便的API,可以通過dom,css或者類似jquery的方法來提取和操作數據。

嗯,所以他到底是干嘛的呢? 當我們訪問一個網站拿到它的html代碼的時候,往往我們所需要的一些數據就已經包含在html里,Jsoup就是幫我們把這些我們想要的數據提取出來。還是不夠清晰明了?沒關系,我們一起來看一個demo。

Demo

這里我們以簡書為例子,抓取簡書中我們想要的數據。

眾所周知,簡書的url為http://www.lxweimin.com/ ,我們通過瀏覽器訪問它,并按F12(這里我使用的chrome瀏覽器)。

簡書首頁
get請求

這里可以看到簡書首頁的html代碼,我們要實現的就是把首頁的文章列表提取出來。

目標明確,可以開始擼代碼了。

首先先在build.gradle里添加Jsoup的依賴

dependencies {
        compile 'org.jsoup:jsoup:1.10.2'
}

既然Jsoup是對html進行操作,那么首先我們肯定要拿到html嘛,這里我使用okhttp發起請求,大家也可以根據自己喜好自行替換

        Request request = new Request.Builder().
                url("http://www.lxweimin.com").
                //如果請求的url需要提交參數,那么需改為post方式并提交對應的參數
                get().
                build();
        okHttpClient.newCall(request).enqueue(this);
    @Override
    public void onResponse(Call call, Response response) throws IOException {
        if (response.isSuccessful()) {
            String result = response.body().string();
            parseHtml(result);
        }
    }

這里沒什么特別的,無非就是發送請求,拿到返回的html。

好現在我們已經成功拿到簡書首頁的html代碼,這里我們先回到瀏覽器,按住ctrl+shift+c(chrome瀏覽器下的快捷鍵) ,點擊一下列表的其中一篇文章,



可以看到,li這個標簽是包含在id為list-container的div中的ul里面。

點擊標題

點擊標題,可以看到標題是包含在li里面的class為title的a標簽里面的,并且文章的詳情頁面的url也包含在href屬性里面,對jq或者js熟悉的童鞋可能知道,在jq或者js中我們是可以通過標簽來尋找元素的,回顧一下Jsoup的簡介,可以使用類似jquery的方法提取或者操縱數據,是不是大概明白了。

我們來看一下代碼實現

private void parseHtml(String html) {
        //將html轉為Document對象
        Document document = Jsoup.parse(html);
        //獲得li的元素集合
        Elements elements = document.select("div#list-container ul li");
        List<BlogModel> lists = new ArrayList<>();
        BlogModel blogModel;
        for (Element element : elements) {
            //獲得作者
            String author = element.select("div.name a").first().text();
            //獲得標題
            String title = element.select("a.title").first().text();
            //獲得圖片url,因為文章有可能沒有圖片,所以這里需要特殊處理一下
            String image = element.select("a.wrap-img").first() != null ?
                    element.select("a.wrap-img").first().children().first().attr("src") : "";
            //獲得文章詳情url
            String targetUrl = element.select("a.title").first().attr("href");
            blogModel = new BlogModel();
            blogModel.setAuthor(author);
            blogModel.setName(title);
            blogModel.setImage(image);
            blogModel.setTargetUrl(targetUrl);
            lists.add(blogModel);
        }
    }

這里我們將拿到的數據都封裝成一個BlogModel對象,BlogModel的代碼很簡單

public class BlogModel {
    private String author;
    private String name;
    private String image;
    private String targetUrl;
    
    //get和set方法...
}

現在我們已經拿到需要的數據了,接下來無非就是展示了。這里我是用RecyclerView,簡單貼一下Adapter的代碼

    static class MyAdapter extends RecyclerView.Adapter<ViewHolder> {
        private Context context;
        private List<BlogModel> blogModels;

        public MyAdapter(Context context) {
            this.context = context;
        }

        public void setBlogModels(List<BlogModel> blogModels) {
            this.blogModels = blogModels;
        }

        @Override
        public ViewHolder onCreateViewHolder(ViewGroup parent, int viewType) {
            return new ViewHolder(View.inflate(context, R.layout.item_blog, null));
        }

        @Override
        public void onBindViewHolder(ViewHolder holder, int position) {
            holder.tvTitle.setText(blogModels.get(position).getName());
            Glide.with(context).load(blogModels.get(position).getImage()).into(holder.ivImg);
        }

        @Override
        public int getItemCount() {
            return blogModels.size();
        }
    }

怎么去展示數據大家肯定都很熟悉了,這里就不啰嗦了,最后上一下demo圖片

Demo

總結

Ok啦,通過Jsoup可以抓取各種網頁的數據,例如你學校的教務網等等,這里我們只是簡單介紹了一下Jsoup的基本用法,細心的童鞋肯定發現啦,使用Jsoup抓取數據時如果抓取的網站的html發生改變,那么代碼也得隨之改變,這也是其缺點之一吧。那么本文就到此啦,如有哪里講解有誤還望體諒~ 謝謝大家~

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,698評論 6 539
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,202評論 3 426
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,742評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,580評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,297評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,688評論 1 327
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,693評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,875評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,438評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,183評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,384評論 1 372
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,931評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,612評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,022評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,297評論 1 292
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,093評論 3 397
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,330評論 2 377

推薦閱讀更多精彩內容

  • Android 自定義View的各種姿勢1 Activity的顯示之ViewRootImpl詳解 Activity...
    passiontim閱讀 172,702評論 25 708
  • 蘇州十公里跑回來之后變得懶惰了不少,簡直就想懶死了算了的狀態。天天都是晚上不想睡,早上起不來的神經緊繃狀態。 說好...
    梁木純閱讀 393評論 1 1
  • 廠里面的叉車司機,雖栽培半載有余,但要說起那車上的功夫卻足以令人聞風喪膽,素有‘殺手’的名頭,因為無論多么齊整...
    昭昭之輝閱讀 282評論 0 1
  • 不管是誰的過錯,總之我們已經錯過。
    Myheng_a3d7閱讀 151評論 0 0