hive實現用戶連續登陸的最大天數

假設說我們現在有這樣一張表

初始表

這張表記錄了用戶id為1001和1002的登陸日期,現在問題來了:我們如何統計處兩個用戶各自連續登陸的天數最大值?
也就是1001可能會有連續登陸3天,7天,10天的這樣記錄,但是這其中只有10天是1001連續登陸的最長天數。

問題分析

連續登陸,也就是在連續登陸的期間內,后一天和前一天的差值為1,不能為大于1的值,直到間斷。那么在這里其實我們可以設置一列序號,如果是連續的話,這列序號也是會隨著日期同步增長的,那么日期減去這個序號,應該都是一個確定的日期。比如說9月16號對應的序號是1,9月17號對應的序號是2,9月18號對應的序號是3,那么9月16號-1=9月15號,同理,9月17號-2=9月15號,都是同樣的日期。那么我們根據這個日期和user_id和日期標示進行分組即可。

step 1 添加一列

SELECT user_id, log_date, ROW_NUMBER() OVER(PARTITION BY 
user_id ORDER BY log_date) AS rn FROM user_logging_format;
返回結果1

我們可以看到用ROW_NUMBER()函數已經成功加上了一列。

step 2

我們用log_date這一列減去row_number這一列得到一個時間標志

SELECT user_id, log_date, date_sub(log_date, cast(rn AS INT)) AS symbol_date from(SELECT user_id, log_date, ROW_NUMBER() OVER(PARTITION BY 
user_id ORDER BY log_date) AS rn FROM user_logging_format)c;
image.png

在這里做的事情是把之前的rn從string的格式改為了int的格式,這樣才能夠傳入到date_sub函數里面做減法。這里要注意,做subquery的時候要制定子表格的名字,比如我在這里就指定了子表格名字為c。

step 3

接下來我們要根據user_id和log_date進行分組然后統計。

SELECT user_id, symbol_date, count(*) AS count_val FROM(SELECT user_id, log_date, date_sub(log_date, cast(rn AS INT)) AS symbol_date from(SELECT user_id, log_date, ROW_NUMBER() OVER(PARTITION BY 
user_id ORDER BY log_date) AS rn FROM user_logging_format)c)d GROUP BY user_id, symbol_date;
輸出結果

step 4

現在我們已經得到了每個日期的分組的數目統計,這里的天數實際上是開始連續的那個日期-1(因為不連續的都不是同一個標志日,不會分到一組)但是還有兩個問題,一個是要求出每個id的最大值,另外就是要將天數加1回到一開始連續開始的日期。

SELECT user_id, MAX(count_val) AS max_count FROM (SELECT user_id, symbol_date, count(*) AS count_val FROM(SELECT user_id, log_date, date_sub(log_date, cast(rn AS INT)) AS symbol_date from(SELECT user_id, log_date, ROW_NUMBER() OVER(PARTITION BY 
user_id ORDER BY log_date) AS rn FROM user_logging_format)c)d GROUP BY user_id, symbol_date)e GROUP BY user_id;
輸出結果

step 5

以上解決了找到最大值,但是最大值的日期沒有返回。
由于嵌套寫得太多了,接下來還是新建一張表格,用連接的方式找出最大日期

CREATE TABLE count_table AS SELECT user_id, symbol_date, count(*) AS count_val FROM(SELECT user_id, log_date, date_sub(log_date, cast(rn AS INT)) AS symbol_date from(SELECT user_id, log_date, ROW_NUMBER() OVER(PARTITION BY 
user_id ORDER BY log_date) AS rn FROM user_logging_format)c)d GROUP BY user_id, symbol_date
CREATE TABLE max_table AS SELECT user_id, MAX(count_val) AS max_count FROM (SELECT user_id, symbol_date, count(*) AS count_val FROM(SELECT user_id, log_date, date_sub(log_date, cast(rn AS INT)) AS symbol_date from(SELECT user_id, log_date, ROW_NUMBER() OVER(PARTITION BY 
user_id ORDER BY log_date) AS rn FROM user_logging_format)c)d GROUP BY user_id, symbol_date)e GROUP BY user_id;
SELECT m.user_id, m.max_count, DATE_ADD(t.symbol_date,1) AS start_date FROM max_table AS m INNER JOIN count_table t ON m.user_id=t.user_id and m.max_count=t.count_val;

如果原始數據表有連續的日期,應該考慮用dense_number(),同樣的操作后,用select distinct的方法來選出user_id, date以及symbol_date都不一樣的一行。
關于這個問題可以參考鏈接:

  1. 從用戶連續活躍的最大天數說起
  2. SQL連續問題
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容