Druid 介紹
說(shuō)起 Druid，大家首先想到的是阿里的 Druid 數(shù)據(jù)庫(kù)連接池，而本文介紹的 Druid 是一個(gè)在大數(shù)據(jù)場(chǎng)景下的解決方案，是需要在復(fù)雜的海量數(shù)據(jù)下進(jìn)行交互式實(shí)時(shí)數(shù)據(jù)展現(xiàn)的 BI/OLAP 工具。
它有三個(gè)特點(diǎn)：
- 處理的數(shù)據(jù)量規(guī)模較大。
- 可以進(jìn)行數(shù)據(jù)的實(shí)時(shí)查詢展示。
- 它的查詢模式是交互式的，這也說(shuō)明其查詢并發(fā)能力有限。
目前 Druid 廣泛應(yīng)用在國(guó)內(nèi)外各個(gè)公司，比如阿里，滴滴，知乎，360，eBay，Hulu 等。
Druid 之所以能夠在 OLAP 家族中占據(jù)一席之地，主要依賴其強(qiáng)大的 MPP 架構(gòu)設(shè)計(jì)，關(guān)于它的架構(gòu)，這里就不展開(kāi)描述了，感興趣的同學(xué)可以登陸官網(wǎng) druid.io 進(jìn)行了解。
除了 MPP 架構(gòu)外，它還運(yùn)用到了四點(diǎn)重要的技術(shù)，分別是：
- 預(yù)聚合
- 列式存儲(chǔ)
- 字典編碼
- 位圖索引
預(yù)聚合算是 Druid 的一個(gè)非常大的亮點(diǎn)，通過(guò)預(yù)聚合可以減少數(shù)據(jù)的存儲(chǔ)以及避免查詢時(shí)很多不必要的計(jì)算。
由于 OLAP 的分析場(chǎng)景大多只關(guān)心某個(gè)列或者某幾個(gè)列的指標(biāo)計(jì)算，因此數(shù)據(jù)非常適合列式存儲(chǔ)。
在列式存儲(chǔ)的基礎(chǔ)之上，再加上字段編碼，能夠有效的提升數(shù)據(jù)的壓縮率，然后位圖索引讓很多查詢最終直接轉(zhuǎn)化成計(jì)算機(jī)層面的位計(jì)算，提升查詢效率。
Druid 既然是 OLAP 工具，那它和其他 OLAP 工具有哪些差異呢?
從上圖可以看出，Kylin 和 Druid 整體上相比較其他兩個(gè)還是很有優(yōu)勢(shì)的：
相比較 Kylin，Druid 沒(méi)有模型管理和 cube 管理的能力，Kylin 無(wú)法提供實(shí)時(shí)查詢。
相比較 ES，Druid 的優(yōu)勢(shì)在于聚合計(jì)算，ES 的優(yōu)勢(shì)在于查明細(xì)，在蘇寧，對(duì) Druid 的使用，一般應(yīng)用在需要對(duì)數(shù)據(jù)進(jìn)行實(shí)時(shí)聚合查詢的場(chǎng)景。
Druid的應(yīng)用場(chǎng)景
門店 App 系統(tǒng)
門店 App 系統(tǒng)是一款集數(shù)據(jù)服務(wù)、銷售開(kāi)單、會(huì)員營(yíng)銷、收發(fā)盤(pán)退、績(jī)效管理、V 購(gòu)用戶溝通、學(xué)習(xí)中心等于一體的門店店員移動(dòng)工作平臺(tái)，其銷售界面如下所示：
門店 App 業(yè)務(wù)大致情況如下：
- 數(shù)據(jù)量：保存近幾年的數(shù)據(jù)。
- 數(shù)據(jù)接入方式：Kafka 實(shí)時(shí)數(shù)據(jù)接入，隔天離線數(shù)據(jù)覆蓋昨天數(shù)據(jù)。
- 查詢方式：實(shí)時(shí)查詢。
- 業(yè)務(wù)實(shí)現(xiàn)：topN 實(shí)現(xiàn)銷售額曲線展示，groupby 分組樓層客流分布，timeserise 做天匯總。
報(bào)表系統(tǒng)
大致情況如下：
- 數(shù)據(jù)量：保存近幾年數(shù)據(jù)。
- 數(shù)據(jù)接入方式：Kafka 實(shí)時(shí)數(shù)據(jù)接入。
- 查詢方式：實(shí)時(shí)查詢。
- 業(yè)務(wù)實(shí)現(xiàn)：topN 實(shí)現(xiàn)銷售餅圖展示，groupby 分組實(shí)現(xiàn)大區(qū)銷售排名。
基于 OLAP 引擎的平臺(tái)架構(gòu)
為保證數(shù)據(jù)的一致性和統(tǒng)一性，該平臺(tái)基于 OLAP 引擎，為集團(tuán)各個(gè)業(yè)務(wù)提供統(tǒng)一的維度指標(biāo)分析系統(tǒng)：
- 百川系統(tǒng)通過(guò) OLAP 引擎構(gòu)建模型，OLAP 引擎根據(jù)業(yè)務(wù)需求，將模型拆分成若干個(gè) cube，存儲(chǔ)到底層的 Druid，Hive，PG 和 ES。我們稱這個(gè)過(guò)程為模型加速，另外，百川系統(tǒng)自身會(huì)構(gòu)建各種各樣的指標(biāo)。
- 業(yè)務(wù)方，比如天工，諸葛等系統(tǒng)通過(guò)百川提供的指標(biāo)，選擇其中一個(gè)或多個(gè)進(jìn)行報(bào)表的構(gòu)建，其查詢請(qǐng)求會(huì)發(fā)送到百川系統(tǒng)。
- 百川系統(tǒng)構(gòu)造 SQL 語(yǔ)句，再把請(qǐng)求發(fā)送到 OLAP 引擎，OLAP 引擎通過(guò)底層的 Spark 平臺(tái)，解析 SQL 語(yǔ)句，將請(qǐng)求路由到 Druid，ES，Hive 和 PG，其中，時(shí)序化數(shù)據(jù)的聚合查詢，將路由到 Druid 平臺(tái)，最后查詢結(jié)果一層一層匯總到上層的業(yè)務(wù)系統(tǒng)。
- 整個(gè)系統(tǒng)的監(jiān)控，通過(guò)云跡系統(tǒng)、華佗系統(tǒng)等進(jìn)行監(jiān)控，將系統(tǒng)日志接入云跡，將系統(tǒng)的 metric 信息接入華佗。
隨著 Druid 平臺(tái)建設(shè)的不斷推進(jìn)，使用 Druid 的業(yè)務(wù)也越來(lái)越多，在使用的過(guò)程中也會(huì)遇到各種各樣的問(wèn)題，下文總結(jié)了蘇寧業(yè)務(wù)開(kāi)發(fā)人員在使用 Druid 中遇到的一些問(wèn)題，希望對(duì)正在閱讀本文的讀者有些幫助。
Druid 使用建議
本小節(jié)主要想結(jié)合實(shí)際問(wèn)題，給大家提供一些 Druid 的使用建議，供大家參考。
①什么樣的業(yè)務(wù)適合用 Druid?
建議如下：
- 時(shí)序化數(shù)據(jù)：Druid 可以理解為時(shí)序數(shù)據(jù)庫(kù)，所有的數(shù)據(jù)必須有時(shí)間字段。
- 實(shí)時(shí)數(shù)據(jù)接入可容忍丟數(shù)據(jù)(tranquility)：目前 tranquility 有丟數(shù)據(jù)的風(fēng)險(xiǎn)，所以建議實(shí)時(shí)和離線一起用，實(shí)時(shí)接當(dāng)天數(shù)據(jù)，離線第二天把今天的數(shù)據(jù)全部覆蓋，保證數(shù)據(jù)完備性。
- OLAP 查詢而不是 OLTP 查詢：Druid 查詢并發(fā)有限，不適合 OLTP 查詢。
- 非精確的去重計(jì)算：目前 Druid 的去重都是非精確的。
- 無(wú) Join 操作：Druid 適合處理星型模型的數(shù)據(jù)，不支持關(guān)聯(lián)操作。
- 數(shù)據(jù)沒(méi)有 update 更新操作，只對(duì) segment 粒度進(jìn)行覆蓋：由于時(shí)序化數(shù)據(jù)的特點(diǎn)，Druid 不支持?jǐn)?shù)據(jù)的更新。
②如何設(shè)置合理的 Granularity?
首先解釋下 segmentGranularity 和 queryGranularity，前者是 segment 的組成粒度，后者是 segment 的聚合粒度。
要求 queryGranularity 小于等于 segmentGranularity，然后在數(shù)據(jù)導(dǎo)入時(shí)，按照下面的規(guī)則進(jìn)行設(shè)置。
segmentGranularity(離線數(shù)據(jù)導(dǎo)入的設(shè)置)：
- 導(dǎo)入的數(shù)據(jù)是天級(jí)別以內(nèi)的：“hour”或者“day”。
- 導(dǎo)入的數(shù)據(jù)是天級(jí)別以上的：“day”。
- 導(dǎo)入的數(shù)據(jù)是年級(jí)別以上的：“month”。
需要說(shuō)明的是，這里我們僅僅是簡(jiǎn)單的通過(guò) intervals 進(jìn)行 segmentGranularity 的設(shè)置，更加合理的做法應(yīng)該是結(jié)合每個(gè) segment 的大小以及查詢的復(fù)雜度進(jìn)行綜合衡量。
考慮到 tranquility 實(shí)時(shí)任務(wù)的特殊性和數(shù)據(jù)的安全性，我們建議實(shí)時(shí)數(shù)據(jù)導(dǎo)入時(shí)，segmentGranularity 設(shè)置成“hour”。
queryGranularity：根據(jù)業(yè)務(wù)查詢最小粒度和查詢復(fù)雜度來(lái)定，假設(shè)查詢只需要到小時(shí)粒度，則該參數(shù)設(shè)置為“hour”。
③需要去重的維度到底需不需要定義到維度列中?
如果去重的維度只需要去重計(jì)算，沒(méi)有其他的作用，譬如進(jìn)行過(guò)濾或者作為分組字段，我們建議不要添加到維度列中，因?yàn)椴惶砑拥脑挘@樣數(shù)據(jù)的預(yù)聚合效果更好。
④如何選擇查詢方式?
常用的三種查詢：
- select sum(A) from DS where time>? [timeseries]
- select sum(A) from DS where time>? group by B order by C limit 2 [topN]
- select sum(A) from DS where time>? group by B，C order by C limit 2[groupby]
沒(méi)有維度分組的場(chǎng)景使用 timeseries，單維度分組查詢的場(chǎng)景使用 topN，多維度分組查詢場(chǎng)景使用 groupby。
由于 groupby 并不會(huì)將 limit 下推(Druid 新版本進(jìn)行了優(yōu)化，雖然可以下推，但是對(duì)于指標(biāo)的排序是不準(zhǔn)確的)，所以單維度的分組查詢，盡量用 topN 查詢。
我們做的工作
從 Druid 引入蘇寧之后，不久便承擔(dān)起了 OLAP 分析的重任，作為底層核心引擎支撐模型和指標(biāo)服務(wù)，并為集團(tuán)各條業(yè)務(wù)線的 OLAP 分析服務(wù)，在過(guò)去的時(shí)間里，我們做了很多工作，本文列舉一些進(jìn)行說(shuō)明。
①OCEP(Druid 集群前置 proxy)
OCEP 是 Druid 集群一個(gè)前置 proxy，通過(guò)它來(lái)提供更加完備的 Druid 集群化和服務(wù)化能力，并解決當(dāng)前 Druid 服務(wù)存在的各種問(wèn)題。
它提供的功能主要有：
- 訪問(wèn)鑒權(quán)(針對(duì)每個(gè) datasource 提供 token 訪問(wèn)鑒權(quán)，保證數(shù)據(jù)安全)。
- 訪問(wèn)審計(jì)(對(duì)每個(gè)查詢都會(huì)生成唯一的 queryId，提供完整的請(qǐng)求來(lái)源)。
- 請(qǐng)求攔截(對(duì)非預(yù)期的訪問(wèn)，制定攔截策略，細(xì)化到具體的 datasource 和查詢語(yǔ)句)。
- 請(qǐng)求路由(根據(jù)集群名稱和 datasource，將請(qǐng)求路由到指定的 Druid 集群，并根據(jù)后端 broker 的壓力，將請(qǐng)求負(fù)載均衡各個(gè) broker 上)。
- 服務(wù)隔離(可設(shè)置策略，對(duì)于不同的 datasource 的請(qǐng)求，可路由到指定的 broker 上，實(shí)現(xiàn) broker 隔離)。
②Druid 查詢客戶端
官方提供的查詢方式是通過(guò)編寫(xiě) Json 文件，以 HTTP 的方式請(qǐng)求 Druid，然而這種方式的缺點(diǎn)也很明顯，首先 Json 內(nèi)容書(shū)寫(xiě)繁瑣，格式極易寫(xiě)錯(cuò)，另外在 Java 開(kāi)發(fā)時(shí)，出現(xiàn)問(wèn)題不利于定位。
于是我們封裝了一層 Java API，如下圖：
③資源隔離
不同業(yè)務(wù)的數(shù)據(jù)量有大小之分以及對(duì)服務(wù)穩(wěn)定性要求不一樣，我們通過(guò)以下三點(diǎn)實(shí)現(xiàn)業(yè)務(wù)層面的隔離：
- Historical 分組：集群設(shè)置不同的 tier，存儲(chǔ)不同的業(yè)務(wù)數(shù)據(jù)。
- Broker 隔離：通過(guò) OCEP 設(shè)置 datasource 白名單，不同的 broker 只提供某個(gè)或某幾個(gè) datasource 的查詢。
- 冷熱數(shù)據(jù)隔離：通過(guò)設(shè)置 datasource 的 rule，將冷熱數(shù)據(jù)分別存儲(chǔ)在不同的 tier 中。
- Druid 白名單控制。
集群穩(wěn)定性壓倒一切，防止控制以外的機(jī)器對(duì)集群進(jìn)行無(wú)效查詢和攻擊，我們通過(guò)增加一個(gè) whitelist 的 extension，以模塊的方式在服務(wù)端進(jìn)行白名單的控制。
并且可以針對(duì)不同的服務(wù)進(jìn)行控制，將 whitelist 的配置文件寫(xiě)在 Druid 的 metadata 的 config 表中，實(shí)現(xiàn)動(dòng)態(tài)更新。
④Druid 離線導(dǎo)入時(shí)對(duì) intervals 的控制
有些離線導(dǎo)入的任務(wù)，占用了 YARN 太多的資源，個(gè)別任務(wù)消耗了上千個(gè)或者上萬(wàn)的 container 資源，分析發(fā)現(xiàn)是由于業(yè)務(wù)設(shè)置的 segmentGranularity 不合理，最終會(huì)導(dǎo)致 segment 過(guò)多，產(chǎn)生很多 HDFS 小文件。
于是我們?cè)?overlord 服務(wù)端，增加參數(shù)“druid.indexer.intervals.maxLimit”，對(duì)離線任務(wù)進(jìn)行判斷。
如果 segmentGranularity 和 interval 設(shè)置的不合理，將禁止提交。譬如，segmentGranularity 設(shè)置的是小時(shí)，interval 設(shè)置的間隔是 1 年，這種是不合理的，服務(wù)端將禁止數(shù)據(jù)導(dǎo)入。
⑤Coordinator 自動(dòng) merge segment 時(shí)啟動(dòng) task 的并發(fā)數(shù)控制
在集群中，我們打開(kāi)了 coordinator 自動(dòng) merge segment 的功能，coordinator 默認(rèn)每隔 30 分鐘，啟動(dòng) merge 線程，掃描所有的 datasource，將過(guò)小的 segment 按要求進(jìn)行合并。
每當(dāng)一批 segment 符合 merge 要求了，就會(huì)請(qǐng)求 overlord 進(jìn)行啟動(dòng) merge task。
如果集群內(nèi)小 segment 很多，merge task 將啟動(dòng)無(wú)數(shù)個(gè)，堵塞 middleManager 的 peon 資源，我們?cè)黾酉拗?merge task 的并發(fā)數(shù)的參數(shù)，保證每次 merge 線程只啟動(dòng)一定數(shù)量的 task。
⑥D(zhuǎn)ruid 監(jiān)控
監(jiān)控對(duì)于任何一個(gè)系統(tǒng)而言都是非常重要的，可以幫助我們提前預(yù)知系統(tǒng)的健康狀況，Druid 的監(jiān)控主要有兩點(diǎn)，業(yè)務(wù)查詢情況和平臺(tái)運(yùn)行情況。
前者主要包括 datasource 的查詢量、查詢耗時(shí)、網(wǎng)絡(luò)流量等;后者主要包括各個(gè)服務(wù)的 gc 情況、cpu 和內(nèi)存使用情況、空閑 Jetty 線程數(shù)等。
我們的監(jiān)控方案是 Druid_Common 集群和 Druid_OLAP 集群相互監(jiān)控，互相存儲(chǔ)對(duì)方的 metric 信息，然后通過(guò) superset 展示。
未來(lái)規(guī)劃
Druid 在蘇寧還有很長(zhǎng)一段路要走，無(wú)論從查詢優(yōu)化方面還是集群管理方面，都有很多事情要做。
查詢優(yōu)化方面：
- 高基數(shù)問(wèn)題：高基數(shù)查詢一直是 OLAP 查詢的一大痛點(diǎn)，新版本雖然支持 limit 下推，但也只是對(duì)維度進(jìn)行排序的時(shí)候，才能保證準(zhǔn)確性。
- SQL 支持：進(jìn)行 Druid 版本升級(jí)，提供豐富的 SQL 查詢接口。
- 精準(zhǔn)去重：目前 Druid 對(duì)去重的計(jì)算，無(wú)論是 HyperLogLog、ThetaSketch 還是最新版本提供的 HLLSketch 都是非精確的，后面考慮是否可以通過(guò)集成 bitmap 解決。
集群管理方面：
- Kafkaindex service 使用：tranquility 的時(shí)間窗口限制會(huì)造成延遲很大的數(shù)據(jù)丟失，而且實(shí)時(shí) peon 的管理不夠靈活，某些場(chǎng)景下，也會(huì)造成數(shù)據(jù)丟失。
而 Kafka index service 的實(shí)時(shí) peon 調(diào)用了 Kafka 底層的 API，管理更靈活，依賴 Kafka 實(shí)現(xiàn)數(shù)據(jù)的不丟不重。
- Datasource 跨集群遷移：Druid 無(wú)論是數(shù)據(jù)導(dǎo)入還是數(shù)據(jù)查詢都非常依賴 Zookeeper，當(dāng)集群規(guī)模越來(lái)越大，datasource 越來(lái)越多的時(shí)候，Zookeeper 也許會(huì)成為瓶頸。
這樣的話，就需要做 datasource 的遷移，而遷移工作涉及到 datasource 元數(shù)據(jù)和 HDFS 數(shù)據(jù)的遷移，如何讓遷移工作輕量化，是我們需要思考的。
