造數翻頁規則詳細說明

常見網站的多頁情況

一、 翻頁規律為1、2、3、4等遞增變化時,翻頁規律為每頁增加1,則其多頁采集時,以10頁為目標,采集規則為{{1-10;1}}

二、 翻頁規律為奇數/偶數變化時,即每頁網址頁碼為:1、3、5、7等奇數頁碼或者0、2、4、6、8等偶數頁碼時,其翻頁規律為每頁增加2的翻頁規律.
以10頁為采集目標,奇數頁碼規則為{{1-19;2}} 同理,當目標網站翻頁規則為偶數頁碼時,多頁采集規則為{{0-18;2}}

三、 翻頁規律為一定數字/步長的,每頁網站頁碼的變化為一個固定數字,即每增加一頁,頁碼增加一個固定數字N
以淘寶網-手機搜索結果的頁碼變化為例:淘寶網的頁碼變化規律為每增加一頁,增加48.則采集淘寶前10頁的數據時翻頁規律為{{0-432;48}}


舉例說明

一、翻頁規律為1、2、3、4等遞增變化時,翻頁規律為每頁增加1,則其多頁采集時,以N頁為目標,采集規則為{{1-N;1}}

以鏈家網-二手房網頁多頁翻頁規則為例:

第一頁:https://bj.lianjia.com/ershoufang/pg1/

第二頁:https://bj.lianjia.com/ershoufang/pg2/

第三頁:https://bj.lianjia.com/ershoufang/pg3/

以10頁為采集目標,其多頁采集設置為:https://bj.lianjia.com/ershoufang/pg{{1-10;1}}/

二、翻頁規律為奇數/偶數變化時,即每頁網址頁碼為:1、3、5、7等奇數頁碼或者0、2、4、6、8等偶數頁碼時,其翻頁規律為每頁增加2的翻頁規律.
奇數頁碼翻頁規則為2N-1,N=目標頁碼

以京東為例:

第一頁 (2N-1);N=1時,第一頁的頁碼為2*1-1=1

https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=1&s=1&click=0

第二頁 N=2時,page2= 2*2-1=3

https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=3&s=60&click=0

第三頁 N=3時,page3=2*3-1=5:

https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page=5&s=114&click=0

則以10頁為采集目標,京東多頁采集規則設置為{{1-19;2}} 在造數多頁采集時應該設置的網址鏈接為:

https://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&wq=%E6%89%8B%E6%9C%BA&cid2=653&cid3=655&page={{1-19;2}}&s=114&click=0

同理,當目標網站翻頁規則為偶數頁碼時,翻頁規則為2(N-1),N=網頁頁碼
多頁采集規則為:{{0-2(N-1);2}},N=網頁頁碼


三、翻頁規律為一定數字/步長的,即每頁網站頁碼的變化為一個固定數字。

以淘寶網-手機搜索結果的頁碼變化為例:

淘寶網的頁碼變化規律為每增加一頁,頁碼數字增加48

第一頁 頁碼=0:

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest

實際第一頁的隱藏頁碼鏈接為頁碼=48*(1-1)=0

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s=0

第二頁 頁碼=48*(2-1)=48

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s=48

第三頁頁碼=48*(3-1)=96

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s=96

第四頁頁碼=48*(4-1)=144

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s=144

第10頁頁碼=48(10-1)=432
第N頁頁碼=48
(N-1)

則前10頁的多頁采集規則為:{{0-432;48}} 在造數多頁采集時應該設置的網址鏈接為:

https://s.taobao.com/search?initiative_id=tbindexz_20170306&ie=utf8&spm=a21bo.2017.201856-taobao-item.2&sourceId=tb.index&search_type=item&ssid=s5-e&commend=all&imgfile=&q=%E6%89%8B%E6%9C%BA&suggest=history_1&_input_charset=utf-8&wq=%E6%89%8B%E6%9C%BA&suggest_query=%E6%89%8B%E6%9C%BA&source=suggest&p4ppushleft=5%2C48&s={{0-432;48}}


更多示例

1、京東搜索手機時多頁設置

網址是:

http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=3

http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=5

http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page=7

那么京東的翻頁規則就是:

http://search.jd.com/Search?keyword=%E6%89%8B%E6%9C%BA&enc=utf-8&qrst=1&rt=1&stop=1&vt=2&cid2=653&cid3=655&page={{1-19;2}}

2、百度造數時的多頁設置

網址是:

https://www.baidu.com/s?wd=造數&pn=10
https://www.baidu.com/s?wd=造數&pn=20
https://www.baidu.com/s?wd=造數&pn=30

那么百度的翻頁規則就是:

https://www.baidu.com/s?wd=造數&pn={{0-90;10}}

3、拉勾搜索JAVA時多頁設置

網址是:

https://www.lagou.com/zhaopin/Java/2/
https://www.lagou.com/zhaopin/Java/3/
https://www.lagou.com/zhaopin/Java/4/

那么拉勾的翻頁規則就是:

https://www.lagou.com/zhaopin/Java/{{1-10}}/

4、大眾點評搜索火鍋時多頁設置

網址是:

http://www.dianping.com/search/category/16/10/g110p2
http://www.dianping.com/search/category/16/10/g110p3
http://www.dianping.com/search/category/16/10/g110p4

那么大眾點評的翻頁規則就是:

http://www.dianping.com/search/category/16/10/g110p{{1-10}}

5、知乎精華問題的多頁設置

網址是:

https://www.zhihu.com/topic/19551147/top-answers?page=2
https://www.zhihu.com/topic/19551147/top-answers?page=3
https://www.zhihu.com/topic/19551147/top-answers?page=4

那么知乎的翻頁規則就是:

https://www.zhihu.com/topic/19551147/top-answers?page={{1-10}}

6、亞馬遜搜索手機時多頁設置

網址是:

https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=2&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070
https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=3&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070
https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page=4&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070

那么亞馬遜的翻頁規則就是:

https://www.amazon.cn/s/ref=sr_pg_2?rh=n%3A664978051%2Cn%3A665002051%2Ck%3A%E6%89%8B%E6%9C%BA&page={{1-10}}&keywords=%E6%89%8B%E6%9C%BA&ie=UTF8&qid=1510642070

7、阿里巴巴物流多頁設置

網址是:

http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=&notFirst=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642795306&sizePerPage=&pageIndex=2&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab
http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=&notFirst=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex=3&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab
http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=&notFirst=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex=4&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab

那么阿里巴巴物流的翻頁規則就是:

http://56.1688.com/order/price/estimate_price.htm?_fm.es._0.s=310000&_fm.es._0.se=310100&_fm.es._0.sen=&_fm.es._0.r=440000&_fm.es._0.re=440100&_fm.es._0.rec=&notFirst=true&_fm.es._0.o=&_fm.es._0.c=&_fm.es._0.co=&_fm.es._0.sp=&_fm.es._0.i=&_fm.es._0.is=&_fm.es._0.isf=&_fm.es._0.isp=&_fm.es._0.iscn=&_fm.es._0.isn=&_fm.es._0.isc=&_fm.es._0.isa=&_fm.es._0.ro=&_fm.es._0.w=&_fm.es._0.we=&_fm.es._0.v=&_fm.es._0.vo=&_fm.es._0.tra=&_fm.es._0.tran=&_fm.es._0.isfr=&_fm.es._0.a=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&_fm.es._0.d=&r=1510642804940&sizePerPage=&pageIndex={{1-10}}&weight=&expressRouteSortType=&_fm.es._0.sentc=#tab

8、豆瓣電影雷神3影評的多頁設置

網址是:

https://movie.douban.com/subject/25821634/comments?start=20&limit=20&sort=new_score&status=P&percent_type=
https://movie.douban.com/subject/25821634/comments?start=40&limit=20&sort=new_score&status=P&percent_type=
https://movie.douban.com/subject/25821634/comments?start=60&limit=20&sort=new_score&status=P&percent_type=

那么豆瓣電影的翻頁規則就是:

https://movie.douban.com/subject/25821634/comments?start={{0-180;20}}&limit=20&sort=new_score&status=P&percent_type=

9、淘寶搜索零食的多頁設置

網址是:

https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=44
https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=88
https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s=132

那么淘寶的翻頁規則就是:

https://s.taobao.com/search?q=%E9%9B%B6%E9%A3%9F&imgfile=&js=1&stats_click=search_radio_all%3A1&initiative_id=staobaoz_20171114&ie=utf8&bcoffset=4&ntoffset=4&p4ppushleft=1%2C48&s={{0-396;44}}

10、V2EX程序員類別的多頁設置

網址是:

https://www.v2ex.com/go/programmer?p=2
https://www.v2ex.com/go/programmer?p=3
https://www.v2ex.com/go/programmer?p=4

那么V2EX的翻頁規則就是:

https://www.v2ex.com/go/programmer?p={{1-10}}

11、胡歌所有微博多頁設置

網址是:

https://weibo.cn/hu_ge?page=2
https://weibo.cn/hu_ge?page=3
https://weibo.cn/hu_ge?page=4

那么微博的翻頁規則就是:

https://weibo.cn/hu_ge?page={{1-10}}

12、北京鏈家二手房多頁設置

網址是:

https://bj.lianjia.com/ershoufang/pg2
https://bj.lianjia.com/ershoufang/pg3
https://bj.lianjia.com/ershoufang/pg4

那么鏈家的翻頁規則就是:

https://bj.lianjia.com/ershoufang/pg{{1-10}}
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,923評論 6 535
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,740評論 3 420
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,856評論 0 380
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,175評論 1 315
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,931評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,321評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,383評論 3 443
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,533評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,082評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,891評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,067評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,618評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,319評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,732評論 0 27
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,987評論 1 289
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,794評論 3 394
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,076評論 2 375

推薦閱讀更多精彩內容