場景
數(shù)據(jù)傾斜解決方案與shuffle類性能調(diào)優(yōu)
有的時候，我們可能會遇到大數(shù)據(jù)計算中一個最棘手的問題——數(shù)據(jù)傾斜，此時Spark作業(yè)的性能會比期望差很多。數(shù)據(jù)傾斜調(diào)優(yōu)，就是使用各種技術(shù)方案解決不同類型的數(shù)據(jù)傾斜問題，以保證Spark作業(yè)的性能。
一、數(shù)據(jù)傾斜發(fā)生時的現(xiàn)象
1、絕大多數(shù)task執(zhí)行得都非常快，但個別task執(zhí)行極慢。比如，總共有1000個task，997個task都在1分鐘之內(nèi)執(zhí)行完了，但是剩余兩三個task卻要一兩個小時。這種情況很常見。
2、原本能夠正常執(zhí)行的Spark作業(yè)，某天突然報出OOM（內(nèi)存溢出）異常，觀察異常棧，是我們寫的業(yè)務(wù)代碼造成的。這種情況比較少見。
二、數(shù)據(jù)傾斜發(fā)生的原理
數(shù)據(jù)傾斜的原理很簡單：在進(jìn)行shuffle的時候，必須將各個節(jié)點(diǎn)上相同的key拉取到某個節(jié)點(diǎn)上的一個task來進(jìn)行處理，比如按照key進(jìn)行聚合或join等操作。此時如果某個key對應(yīng)的數(shù)據(jù)量特別大的話，就會發(fā)生數(shù)據(jù)傾斜。比如大部分key對應(yīng)10條數(shù)據(jù)，但是個別key卻對應(yīng)了100萬條數(shù)據(jù)，那么大部分task可能就只會分配到10條數(shù)據(jù)，然后1秒鐘就運(yùn)行完了；但是個別task可能分配到了100萬數(shù)據(jù)，要運(yùn)行一兩個小時。因此，整個Spark作業(yè)的運(yùn)行進(jìn)度是由運(yùn)行時間最長的那個task決定的。
因此出現(xiàn)數(shù)據(jù)傾斜的時候，Spark作業(yè)看起來會運(yùn)行得非常緩慢，甚至可能因?yàn)槟硞€task處理的數(shù)據(jù)量過大導(dǎo)致內(nèi)存溢出。
上圖就是一個很清晰的例子：hello這個key，在三個節(jié)點(diǎn)上對應(yīng)了總共7條數(shù)據(jù)，這些數(shù)據(jù)都會被拉取到同一個task中進(jìn)行處理；而world和you這兩個key分別才對應(yīng)1條數(shù)據(jù)，所以另外兩個task只要分別處理1條數(shù)據(jù)即可。此時第一個task的運(yùn)行時間可能是另外兩個task的7倍，而整個stage的運(yùn)行速度也由運(yùn)行最慢的那個task所決定。【snail注】上圖有點(diǎn)小問題：包含‘you’的文件，并沒有包含 ‘world’因此代表拉取文件的箭頭不需要指向 （world,1）
三、如何定位導(dǎo)致數(shù)據(jù)傾斜的代碼
數(shù)據(jù)傾斜只會發(fā)生在shuffle過程中。這里給大家羅列一些常用的并且可能會觸發(fā)shuffle操作的算子：distinct、groupByKey、reduceByKey、aggregateByKey、join、cogroup、repartition等。出現(xiàn)數(shù)據(jù)傾斜時，可能就是你的代碼中使用了這些算子中的某一個所導(dǎo)致的。
某個task執(zhí)行特別慢的情況
首先要看的，就是數(shù)據(jù)傾斜發(fā)生在第幾個stage中。
如果是用yarn-client模式提交，那么本地是直接可以看到log的，可以在log中找到當(dāng)前運(yùn)行到了第幾個stage；如果是用yarn-cluster模式提交，則可以通過Spark Web UI來查看當(dāng)前運(yùn)行到了第幾個stage。此外，無論是使用yarn-client模式還是yarn-cluster模式，我們都可以在Spark Web UI上深入看一下當(dāng)前這個stage各個task分配的數(shù)據(jù)量，從而進(jìn)一步確定是不是task分配的數(shù)據(jù)不均勻?qū)е铝藬?shù)據(jù)傾斜。
比如下圖中，倒數(shù)第三列顯示了每個task的運(yùn)行時間。明顯可以看到，有的task運(yùn)行特別快，只需要幾秒鐘就可以運(yùn)行完；而有的task運(yùn)行特別慢，需要幾分鐘才能運(yùn)行完，此時單從運(yùn)行時間上看就已經(jīng)能夠確定發(fā)生數(shù)據(jù)傾斜了。此外，倒數(shù)第一列顯示了每個task處理的數(shù)據(jù)量，明顯可以看到，運(yùn)行時間特別短的task只需要處理幾百KB的數(shù)據(jù)即可，而運(yùn)行時間特別長的task需要處理幾千KB的數(shù)據(jù)，處理的數(shù)據(jù)量差了10倍。此時更加能夠確定是發(fā)生了數(shù)據(jù)傾斜。
知道數(shù)據(jù)傾斜發(fā)生在哪一個stage之后，接著我們就需要根據(jù)stage劃分原理，推算出來發(fā)生傾斜的那個stage對應(yīng)代碼中的哪一部分，這部分代碼中肯定會有一個shuffle類算子。精準(zhǔn)推算stage與代碼的對應(yīng)關(guān)系，需要對Spark的源碼有深入的理解，這里我們可以介紹一個相對簡單實(shí)用的推算方法：只要看到Spark代碼中出現(xiàn)了一個shuffle類算子或者是Spark SQL的SQL語句中出現(xiàn)了會導(dǎo)致shuffle的語句（比如group by語句），那么就可以判定，以那個地方為界限劃分出了前后兩個stage。
這里我們就以Spark最基礎(chǔ)的入門程序——單詞計數(shù)來舉例，如何用最簡單的方法大致推算出一個stage對應(yīng)的代碼。如下示例，在整個代碼中，只有一個reduceByKey是會發(fā)生shuffle的算子，因此就可以認(rèn)為，以這個算子為界限，會劃分出前后兩個stage。
stage0，主要是執(zhí)行從textFile到map操作，以及執(zhí)行shuffle write操作。shuffle write操作，我們可以簡單理解為對pairs RDD中的數(shù)據(jù)進(jìn)行分區(qū)操作，每個task處理的數(shù)據(jù)中，相同的key會寫入同一個磁盤文件內(nèi)。
stage1，主要是執(zhí)行從reduceByKey到collect操作，stage1的各個task一開始運(yùn)行，就會首先執(zhí)行shuffle read操作。執(zhí)行shuffle read操作的task，會從stage0的各個task所在節(jié)點(diǎn)拉取屬于自己處理的那些key，然后對同一個key進(jìn)行全局性的聚合或join等操作，在這里就是對key的value值進(jìn)行累加。stage1在執(zhí)行完reduceByKey算子之后，就計算出了最終的wordCounts RDD，然后會執(zhí)行collect算子，將所有數(shù)據(jù)拉取到Driver上，供我們遍歷和打印輸出。
valconf =newSparkConf()valsc =newSparkContext(conf)vallines = sc.textFile("hdfs://...")valwords = lines.flatMap(_.split(" "))valpairs = words.map((_,1))valwordCounts = pairs.reduceByKey(_ + _)wordCounts.collect().foreach(println(_))
1
1
通過對單詞計數(shù)程序的分析，希望能夠讓大家了解最基本的stage劃分的原理，以及stage劃分后shuffle操作是如何在兩個stage的邊界處執(zhí)行的。然后我們就知道如何快速定位出發(fā)生數(shù)據(jù)傾斜的stage對應(yīng)代碼的哪一個部分了。比如我們在Spark Web UI或者本地log中發(fā)現(xiàn)，stage1的某幾個task執(zhí)行得特別慢，判定stage1出現(xiàn)了數(shù)據(jù)傾斜，那么就可以回到代碼中定位出stage1主要包括了reduceByKey這個shuffle類算子，此時基本就可以確定是由educeByKey算子導(dǎo)致的數(shù)據(jù)傾斜問題。比如某個單詞出現(xiàn)了100萬次，其他單詞才出現(xiàn)10次，那么stage1的某個task就要處理100萬數(shù)據(jù)，整個stage的速度就會被這個task拖慢。
某個task莫名其妙內(nèi)存溢出的情況
這種情況下去定位出問題的代碼就比較容易了。我們建議直接看yarn-client模式下本地log的異常棧，或者是通過YARN查看yarn-cluster模式下的log中的異常棧。一般來說，通過異常棧信息就可以定位到你的代碼中哪一行發(fā)生了內(nèi)存溢出。然后在那行代碼附近找找，一般也會有shuffle類算子，此時很可能就是這個算子導(dǎo)致了數(shù)據(jù)傾斜。
但是大家要注意的是，不能單純靠偶然的內(nèi)存溢出就判定發(fā)生了數(shù)據(jù)傾斜。因?yàn)樽约壕帉懙拇a的bug，以及偶然出現(xiàn)的數(shù)據(jù)異常，也可能會導(dǎo)致內(nèi)存溢出。因此還是要按照上面所講的方法，通過Spark Web UI查看報錯的那個stage的各個task的運(yùn)行時間以及分配的數(shù)據(jù)量，才能確定是否是由于數(shù)據(jù)傾斜才導(dǎo)致了這次內(nèi)存溢出。
查看導(dǎo)致數(shù)據(jù)傾斜的key的數(shù)據(jù)分布情況
知道了數(shù)據(jù)傾斜發(fā)生在哪里之后，通常需要分析一下那個執(zhí)行了shuffle操作并且導(dǎo)致了數(shù)據(jù)傾斜的RDD/Hive表，查看一下其中key的分布情況。這主要是為之后選擇哪一種技術(shù)方案提供依據(jù)。針對不同的key分布與不同的shuffle算子組合起來的各種情況，可能需要選擇不同的技術(shù)方案來解決。
此時根據(jù)你執(zhí)行操作的情況不同，可以有很多種查看key分布的方式：
如果是Spark SQL中的group by、join語句導(dǎo)致的數(shù)據(jù)傾斜，那么就查詢一下SQL中使用的表的key分布情況。
如果是對Spark RDD執(zhí)行shuffle算子導(dǎo)致的數(shù)據(jù)傾斜，那么可以在Spark作業(yè)中加入查看key分布的代碼，比如RDD.countByKey()。然后對統(tǒng)計出來的各個key出現(xiàn)的次數(shù)，collect/take到客戶端打印一下，就可以看到key的分布情況。
舉例來說，對于上面所說的單詞計數(shù)程序，如果確定了是stage1的reduceByKey算子導(dǎo)致了數(shù)據(jù)傾斜，那么就應(yīng)該看看進(jìn)行reduceByKey操作的RDD中的key分布情況，在這個例子中指的就是pairs RDD。如下示例，我們可以先對pairs采樣10%的樣本數(shù)據(jù)，然后使用countByKey算子統(tǒng)計出每個key出現(xiàn)的次數(shù)，最后在客戶端遍歷和打印樣本數(shù)據(jù)中各個key的出現(xiàn)次數(shù)。
val sampledPairs = pairs.sample(false, 0.1)val sampledWordCounts = sampledPairs.countByKey()sampledWordCounts.foreach(println(_))
四、數(shù)據(jù)傾斜的解決方案
解決方案一：使用Hive ETL預(yù)處理數(shù)據(jù)
方案適用場景：導(dǎo)致數(shù)據(jù)傾斜的是Hive表。如果該Hive表中的數(shù)據(jù)本身很不均勻（比如某個key對應(yīng)了100萬數(shù)據(jù)，其他key才對應(yīng)了10條數(shù)據(jù)），而且業(yè)務(wù)場景需要頻繁使用Spark對Hive表執(zhí)行某個分析操作，那么比較適合使用這種技術(shù)方案。
方案實(shí)現(xiàn)思路：此時可以評估一下，是否可以通過Hive來進(jìn)行數(shù)據(jù)預(yù)處理（即通過Hive ETL預(yù)先對數(shù)據(jù)按照key進(jìn)行聚合，或者是預(yù)先和其他表進(jìn)行join），然后在Spark作業(yè)中針對的數(shù)據(jù)源就不是原來的Hive表了，而是預(yù)處理后的Hive表。此時由于數(shù)據(jù)已經(jīng)預(yù)先進(jìn)行過聚合或join操作了，那么在Spark作業(yè)中也就不需要使用原先的shuffle類算子執(zhí)行這類操作了。
方案實(shí)現(xiàn)原理：這種方案從根源上解決了數(shù)據(jù)傾斜，因?yàn)閺氐妆苊饬嗽赟park中執(zhí)行shuffle類算子，那么肯定就不會有數(shù)據(jù)傾斜的問題了。但是這里也要提醒一下大家，這種方式屬于治標(biāo)不治本。因?yàn)楫吘箶?shù)據(jù)本身就存在分布不均勻的問題，所以Hive ETL中進(jìn)行g(shù)roup by或者join等shuffle操作時，還是會出現(xiàn)數(shù)據(jù)傾斜，導(dǎo)致Hive ETL的速度很慢。我們只是把數(shù)據(jù)傾斜的發(fā)生提前到了Hive ETL中，避免Spark程序發(fā)生數(shù)據(jù)傾斜而已。
方案優(yōu)點(diǎn)：實(shí)現(xiàn)起來簡單便捷，效果還非常好，完全規(guī)避掉了數(shù)據(jù)傾斜，Spark作業(yè)的性能會大幅度提升。
方案缺點(diǎn)：治標(biāo)不治本，Hive ETL中還是會發(fā)生數(shù)據(jù)傾斜。
方案實(shí)踐經(jīng)驗(yàn)：在一些Java系統(tǒng)與Spark結(jié)合使用的項(xiàng)目中，會出現(xiàn)Java代碼頻繁調(diào)用Spark作業(yè)的場景，而且對Spark作業(yè)的執(zhí)行性能要求很高，就比較適合使用這種方案。將數(shù)據(jù)傾斜提前到上游的Hive ETL，每天僅執(zhí)行一次，只有那一次是比較慢的，而之后每次Java調(diào)用Spark作業(yè)時，執(zhí)行速度都會很快，能夠提供更好的用戶體驗(yàn)。
項(xiàng)目實(shí)踐經(jīng)驗(yàn)：在美團(tuán)·點(diǎn)評的交互式用戶行為分析系統(tǒng)中使用了這種方案，該系統(tǒng)主要是允許用戶通過JavaWeb系統(tǒng)提交數(shù)據(jù)分析統(tǒng)計任務(wù)，后端通過Java提交Spark作業(yè)進(jìn)行數(shù)據(jù)分析統(tǒng)計。要求Spark作業(yè)速度必須要快，盡量在10分鐘以內(nèi)，否則速度太慢，用戶體驗(yàn)會很差。所以我們將有些Spark作業(yè)的shuffle操作提前到了Hive ETL中，從而讓Spark直接使用預(yù)處理的Hive中間表，盡可能地減少Spark的shuffle操作，大幅度提升了性能，將部分作業(yè)的性能提升了6倍以上。
解決方案二：過濾少數(shù)導(dǎo)致傾斜的key
方案適用場景：如果發(fā)現(xiàn)導(dǎo)致傾斜的key就少數(shù)幾個，而且對計算本身的影響并不大的話，那么很適合使用這種方案。比如99%的key就對應(yīng)10條數(shù)據(jù)，但是只有一個key對應(yīng)了100萬數(shù)據(jù)，從而導(dǎo)致了數(shù)據(jù)傾斜。
方案實(shí)現(xiàn)思路：如果我們判斷那少數(shù)幾個數(shù)據(jù)量特別多的key，對作業(yè)的執(zhí)行和計算結(jié)果不是特別重要的話，那么干脆就直接過濾掉那少數(shù)幾個key。比如，在Spark SQL中可以使用where子句過濾掉這些key或者在Spark Core中對RDD執(zhí)行filter算子過濾掉這些key。如果需要每次作業(yè)執(zhí)行時，動態(tài)判定哪些key的數(shù)據(jù)量最多然后再進(jìn)行過濾，那么可以使用sample算子對RDD進(jìn)行采樣，然后計算出每個key的數(shù)量，取數(shù)據(jù)量最多的key過濾掉即可。
方案實(shí)現(xiàn)原理：將導(dǎo)致數(shù)據(jù)傾斜的key給過濾掉之后，這些key就不會參與計算了，自然不可能產(chǎn)生數(shù)據(jù)傾斜。
方案優(yōu)點(diǎn)：實(shí)現(xiàn)簡單，而且效果也很好，可以完全規(guī)避掉數(shù)據(jù)傾斜。
方案缺點(diǎn)：適用場景不多，大多數(shù)情況下，導(dǎo)致傾斜的key還是很多的，并不是只有少數(shù)幾個。
方案實(shí)踐經(jīng)驗(yàn)：在項(xiàng)目中我們也采用過這種方案解決數(shù)據(jù)傾斜。有一次發(fā)現(xiàn)某一天Spark作業(yè)在運(yùn)行的時候突然OOM了，追查之后發(fā)現(xiàn)，是Hive表中的某一個key在那天數(shù)據(jù)異常，導(dǎo)致數(shù)據(jù)量暴增。因此就采取每次執(zhí)行前先進(jìn)行采樣，計算出樣本中數(shù)據(jù)量最大的幾個key之后，直接在程序中將那些key給過濾掉。
解決方案三：提高shuffle操作的并行度
方案適用場景：如果我們必須要對數(shù)據(jù)傾斜迎難而上，那么建議優(yōu)先使用這種方案，因?yàn)檫@是處理數(shù)據(jù)傾斜最簡單的一種方案。
方案實(shí)現(xiàn)思路：在對RDD執(zhí)行shuffle算子時，給shuffle算子傳入一個參數(shù)，比如reduceByKey(1000)，該參數(shù)就設(shè)置了這個shuffle算子執(zhí)行時shuffle read task的數(shù)量。對于Spark SQL中的shuffle類語句，比如group by、join等，需要設(shè)置一個參數(shù)，即spark.sql.shuffle.partitions，該參數(shù)代表了shuffle read task的并行度，該值默認(rèn)是200，對于很多場景來說都有點(diǎn)過小。
方案實(shí)現(xiàn)原理：增加shuffle read task的數(shù)量，可以讓原本分配給一個task的多個key分配給多個task，從而讓每個task處理比原來更少的數(shù)據(jù)。舉例來說，如果原本有5個key，每個key對應(yīng)10條數(shù)據(jù)，這5個key都是分配給一個task的，那么這個task就要處理50條數(shù)據(jù)。而增加了shuffle read task以后，每個task就分配到一個key，即每個task就處理10條數(shù)據(jù)，那么自然每個task的執(zhí)行時間都會變短了。具體原理如下圖所示。
方案優(yōu)點(diǎn)：實(shí)現(xiàn)起來比較簡單，可以有效緩解和減輕數(shù)據(jù)傾斜的影響。
方案缺點(diǎn)：只是緩解了數(shù)據(jù)傾斜而已，沒有徹底根除問題，根據(jù)實(shí)踐經(jīng)驗(yàn)來看，其效果有限。
方案實(shí)踐經(jīng)驗(yàn)：該方案通常無法徹底解決數(shù)據(jù)傾斜，因?yàn)槿绻霈F(xiàn)一些極端情況，比如某個key對應(yīng)的數(shù)據(jù)量有100萬，那么無論你的task數(shù)量增加到多少，這個對應(yīng)著100萬數(shù)據(jù)的key肯定還是會分配到一個task中去處理，因此注定還是會發(fā)生數(shù)據(jù)傾斜的。所以這種方案只能說是在發(fā)現(xiàn)數(shù)據(jù)傾斜時嘗試使用的第一種手段，嘗試去用嘴簡單的方法緩解數(shù)據(jù)傾斜而已，或者是和其他方案結(jié)合起來使用。
解決方案四：兩階段聚合（局部聚合+全局聚合）
方案適用場景：對RDD執(zhí)行reduceByKey等聚合類shuffle算子或者在Spark SQL中使用group by語句進(jìn)行分組聚合時，比較適用這種方案。
方案實(shí)現(xiàn)思路：這個方案的核心實(shí)現(xiàn)思路就是進(jìn)行兩階段聚合。第一次是局部聚合，先給每個key都打上一個隨機(jī)數(shù)，比如10以內(nèi)的隨機(jī)數(shù)，此時原先一樣的key就變成不一樣的了，比如(hello, 1) (hello, 1) (hello, 1) (hello, 1)，就會變成(1_hello, 1) (1_hello, 1) (2_hello, 1) (2_hello, 1)。接著對打上隨機(jī)數(shù)后的數(shù)據(jù)，執(zhí)行reduceByKey等聚合操作，進(jìn)行局部聚合，那么局部聚合結(jié)果，就會變成了(1_hello, 2) (2_hello, 2)。然后將各個key的前綴給去掉，就會變成(hello,2)(hello,2)，再次進(jìn)行全局聚合操作，就可以得到最終結(jié)果了，比如(hello, 4)。
方案實(shí)現(xiàn)原理：將原本相同的key通過附加隨機(jī)前綴的方式，變成多個不同的key，就可以讓原本被一個task處理的數(shù)據(jù)分散到多個task上去做局部聚合，進(jìn)而解決單個task處理數(shù)據(jù)量過多的問題。接著去除掉隨機(jī)前綴，再次進(jìn)行全局聚合，就可以得到最終的結(jié)果。具體原理見下圖。
方案優(yōu)點(diǎn)：對于聚合類的shuffle操作導(dǎo)致的數(shù)據(jù)傾斜，效果是非常不錯的。通常都可以解決掉數(shù)據(jù)傾斜，或者至少是大幅度緩解數(shù)據(jù)傾斜，將Spark作業(yè)的性能提升數(shù)倍以上。
方案缺點(diǎn)：僅僅適用于聚合類的shuffle操作，適用范圍相對較窄。如果是join類的shuffle操作，還得用其他的解決方案。
方案六：采樣傾斜key并分拆join操作操作
方案適用場景：兩個RDD/Hive表進(jìn)行join的時候，如果數(shù)據(jù)量都比較大，無法采用“解決方案五”，那么此時可以看一下兩個RDD/Hive表中的key分布情況。如果出現(xiàn)數(shù)據(jù)傾斜，是因?yàn)槠渲心骋粋€RDD/Hive表中的少數(shù)幾個key的數(shù)據(jù)量過大，而另一個RDD/Hive表中的所有key都分布比較均勻，那么采用這個解決方案是比較合適的。
方案實(shí)現(xiàn)思路：
對包含少數(shù)幾個數(shù)據(jù)量過大的key的那個RDD，通過sample算子采樣出一份樣本來，然后統(tǒng)計一下每個key的數(shù)量，計算出來數(shù)據(jù)量最大的是哪幾個key。
然后將這幾個key對應(yīng)的數(shù)據(jù)從原來的RDD中拆分出來，形成一個單獨(dú)的RDD，并給每個key都打上n以內(nèi)的隨機(jī)數(shù)作為前綴，而不會導(dǎo)致傾斜的大部分key形成另外一個RDD。
接著將需要join的另一個RDD，也過濾出來那幾個傾斜key對應(yīng)的數(shù)據(jù)并形成一個單獨(dú)的RDD，將每條數(shù)據(jù)膨脹成n條數(shù)據(jù)，這n條數(shù)據(jù)都按順序附加一個0~n的前綴，不會導(dǎo)致傾斜的大部分key也形成另外一個RDD。
再將附加了隨機(jī)前綴的獨(dú)立RDD與另一個膨脹n倍的獨(dú)立RDD進(jìn)行join，此時就可以將原先相同的key打散成n份，分散到多個task中去進(jìn)行join了。
而另外兩個普通的RDD就照常join即可。
最后將兩次join的結(jié)果使用union算子合并起來即可，就是最終的join結(jié)果。
方案實(shí)現(xiàn)原理：對于join導(dǎo)致的數(shù)據(jù)傾斜，如果只是某幾個key導(dǎo)致了傾斜，可以將少數(shù)幾個key分拆成獨(dú)立RDD，并附加隨機(jī)前綴打散成n份去進(jìn)行join，此時這幾個key對應(yīng)的數(shù)據(jù)就不會集中在少數(shù)幾個task上，而是分散到多個task進(jìn)行join了。具體原理見下圖。
方案優(yōu)點(diǎn)：對于join導(dǎo)致的數(shù)據(jù)傾斜，如果只是某幾個key導(dǎo)致了傾斜，采用該方式可以用最有效的方式打散key進(jìn)行join。而且只需要針對少數(shù)傾斜key對應(yīng)的數(shù)據(jù)進(jìn)行擴(kuò)容n倍，不需要對全量數(shù)據(jù)進(jìn)行擴(kuò)容。避免了占用過多內(nèi)存。
方案缺點(diǎn)：如果導(dǎo)致傾斜的key特別多的話，比如成千上萬個key都導(dǎo)致數(shù)據(jù)傾斜，那么這種方式也不適。
解決方案七：使用隨機(jī)前綴和擴(kuò)容RDD進(jìn)行join
方案適用場景：如果在進(jìn)行join操作時，RDD中有大量的key導(dǎo)致數(shù)據(jù)傾斜，那么進(jìn)行分拆key也沒什么意義，此時就只能使用最后一種方案來解決問題了。
方案實(shí)現(xiàn)思路：
該方案的實(shí)現(xiàn)思路基本和“解決方案六”類似，首先查看RDD/Hive表中的數(shù)據(jù)分布情況，找到那個造成數(shù)據(jù)傾斜的RDD/Hive表，比如有多個key都對應(yīng)了超過1萬條數(shù)據(jù)。
然后將該RDD的每條數(shù)據(jù)都打上一個n以內(nèi)的隨機(jī)前綴。
同時對另外一個正常的RDD進(jìn)行擴(kuò)容，將每條數(shù)據(jù)都擴(kuò)容成n條數(shù)據(jù)，擴(kuò)容出來的每條數(shù)據(jù)都依次打上一個0~n的前綴。
最后將兩個處理后的RDD進(jìn)行join即可。
方案實(shí)現(xiàn)原理：將原先一樣的key通過附加隨機(jī)前綴變成不一樣的key，然后就可以將這些處理后的“不同key”分散到多個task中去處理，而不是讓一個task處理大量的相同key。該方案與“解決方案六”的不同之處就在于，上一種方案是盡量只對少數(shù)傾斜key對應(yīng)的數(shù)據(jù)進(jìn)行特殊處理，由于處理過程需要擴(kuò)容RDD，因此上一種方案擴(kuò)容RDD后對內(nèi)存的占用并不大；而這一種方案是針對有大量傾斜key的情況，沒法將部分key拆分出來進(jìn)行單獨(dú)處理，因此只能對整個RDD進(jìn)行數(shù)據(jù)擴(kuò)容，對內(nèi)存資源要求很高。
方案優(yōu)點(diǎn)：對join類型的數(shù)據(jù)傾斜基本都可以處理，而且效果也相對比較顯著，性能提升效果非常不錯。
方案缺點(diǎn)：該方案更多的是緩解數(shù)據(jù)傾斜，而不是徹底避免數(shù)據(jù)傾斜。而且需要對整個RDD進(jìn)行擴(kuò)容，對內(nèi)存資源要求很高。
方案實(shí)踐經(jīng)驗(yàn)：曾經(jīng)開發(fā)一個數(shù)據(jù)需求的時候，發(fā)現(xiàn)一個join導(dǎo)致了數(shù)據(jù)傾斜。優(yōu)化之前，作業(yè)的執(zhí)行時間大約是60分鐘左右；使用該方案優(yōu)化之后，執(zhí)行時間縮短到10分鐘左右，性能提升了6倍。
解決方案八：多種方案組合使用
在實(shí)踐中發(fā)現(xiàn)，很多情況下，如果只是處理較為簡單的數(shù)據(jù)傾斜場景，那么使用上述方案中的某一種基本就可以解決。但是如果要處理一個較為復(fù)雜的數(shù)據(jù)傾斜場景，那么可能需要將多種方案組合起來使用。比如說，我們針對出現(xiàn)了多個數(shù)據(jù)傾斜環(huán)節(jié)的Spark作業(yè)，可以先運(yùn)用解決方案一和二，預(yù)處理一部分?jǐn)?shù)據(jù)，并過濾一部分?jǐn)?shù)據(jù)來緩解；其次可以對某些shuffle操作提升并行度，優(yōu)化其性能；最后還可以針對不同的聚合或join操作，選擇一種方案來優(yōu)化其性能。大家需要對這些方案的思路和原理都透徹理解之后，在實(shí)踐中根據(jù)各種不同的情況，靈活運(yùn)用多種方案，來解決自己的數(shù)據(jù)傾斜問題。
一、調(diào)優(yōu)概述述
大多數(shù)Spark作業(yè)的性能主要就是消耗在了shuffle環(huán)節(jié)，因?yàn)樵摥h(huán)節(jié)包含了大量的磁盤IO、序列化、網(wǎng)絡(luò)數(shù)據(jù)傳輸?shù)炔僮鳌Ｒ虼耍绻屪鳂I(yè)的性能更上一層樓，就有必要對shuffle過程進(jìn)行調(diào)優(yōu)。但是也必須提醒大家的是，影響一個Spark作業(yè)性能的因素，主要還是代碼開發(fā)、資源參數(shù)以及數(shù)據(jù)傾斜，shuffle調(diào)優(yōu)只能在整個Spark的性能調(diào)優(yōu)中占到一小部分而已。因此大家務(wù)必把握住調(diào)優(yōu)的基本原則，千萬不要舍本逐末。下面我們就給大家詳細(xì)講解shuffle的原理，以及相關(guān)參數(shù)的說明，同時給出各個參數(shù)的調(diào)優(yōu)建議。
二、ShuffleManager發(fā)展概述
在Spark的源碼中，負(fù)責(zé)shuffle過程的執(zhí)行、計算和處理的組件主要就是ShuffleManager，也即shuffle管理器。而隨著Spark的版本的發(fā)展，ShuffleManager也在不斷迭代，變得越來越先進(jìn)。
在Spark1.2以前，默認(rèn)的shuffle計算引擎是HashShuffleManager。該ShuffleManager而HashShuffleManager有著一個非常嚴(yán)重的弊端，就是會產(chǎn)生大量的中間磁盤文件，進(jìn)而由大量的磁盤IO操作影響了性能。
因此在Spark1.2以后的版本中，默認(rèn)的ShuffleManager改成了SortShuffleManager。SortShuffleManager相較于HashShuffleManager來說，有了一定的改進(jìn)。主要就在于，每個Task在進(jìn)行shuffle操作時，雖然也會產(chǎn)生較多的臨時磁盤文件，但是最后會將所有的臨時文件合并（merge）成一個磁盤文件，因此每個Task就只有一個磁盤文件。在下一個stage的shuffle read task拉取自己的數(shù)據(jù)時，只要根據(jù)索引讀取每個磁盤文件中的部分?jǐn)?shù)據(jù)即可。
下面我們詳細(xì)分析一下HashShuffleManager和SortShuffleManager的原理。
HashShuffleManager運(yùn)行原理
未經(jīng)優(yōu)化的HashShuffleManager
下圖說明了未經(jīng)優(yōu)化的HashShuffleManager的原理。這里我們先明確一個假設(shè)前提：每個Executor只有1個CPU core，也就是說，無論這個Executor上分配多少個task線程，同一時間都只能執(zhí)行一個task線程。
我們先從shuffle write開始說起。shuffle write階段，主要就是在一個stage結(jié)束計算之后，為了下一個stage可以執(zhí)行shuffle類的算子（比如reduceByKey），而將每個task處理的數(shù)據(jù)按key進(jìn)行“分類”。所謂“分類”，就是對相同的key執(zhí)行hash算法，從而將相同key都寫入同一個磁盤文件中，而每一個磁盤文件都只屬于下游stage的一個task。在將數(shù)據(jù)寫入磁盤之前，會先將數(shù)據(jù)寫入內(nèi)存緩沖中，當(dāng)內(nèi)存緩沖填滿之后，才會溢寫到磁盤文件中去。
那么每個執(zhí)行shuffle write的task，要為下一個stage創(chuàng)建多少個磁盤文件呢？很簡單，下一個stage的task有多少個，當(dāng)前stage的每個task就要創(chuàng)建多少份磁盤文件。比如下一個stage總共有100個task，那么當(dāng)前stage的每個task都要創(chuàng)建100份磁盤文件。如果當(dāng)前stage有50個task，總共有10個Executor，每個Executor執(zhí)行5個Task，那么每個Executor上總共就要創(chuàng)建500個磁盤文件，所有Executor上會創(chuàng)建5000個磁盤文件。由此可見，未經(jīng)優(yōu)化的shuffle write操作所產(chǎn)生的磁盤文件的數(shù)量是極其驚人的。
接著我們來說說shuffle read。shuffle read，通常就是一個stage剛開始時要做的事情。此時該stage的每一個task就需要將上一個stage的計算結(jié)果中的所有相同key，從各個節(jié)點(diǎn)上通過網(wǎng)絡(luò)都拉取到自己所在的節(jié)點(diǎn)上，然后進(jìn)行key的聚合或連接等操作。由于shuffle write的過程中，task給下游stage的每個task都創(chuàng)建了一個磁盤文件，因此shuffle read的過程中，每個task只要從上游stage的所有task所在節(jié)點(diǎn)上，拉取屬于自己的那一個磁盤文件即可。
shuffle read的拉取過程是一邊拉取一邊進(jìn)行聚合的。每個shuffle read task都會有一個自己的buffer緩沖，每次都只能拉取與buffer緩沖相同大小的數(shù)據(jù)，然后通過內(nèi)存中的一個Map進(jìn)行聚合等操作。聚合完一批數(shù)據(jù)后，再拉取下一批數(shù)據(jù)，并放到buffer緩沖中進(jìn)行聚合操作。以此類推，直到最后將所有數(shù)據(jù)到拉取完，并得到最終的結(jié)果。
優(yōu)化后的HashShuffleManager
下圖說明了優(yōu)化后的HashShuffleManager的原理。這里說的優(yōu)化，是指我們可以設(shè)置一個參數(shù)，spark.shuffle.consolidateFiles。該參數(shù)默認(rèn)值為false，將其設(shè)置為true即可開啟優(yōu)化機(jī)制。通常來說，如果我們使用HashShuffleManager，那么都建議開啟這個選項(xiàng)。
開啟consolidate機(jī)制之后，在shuffle write過程中，task就不是為下游stage的每個task創(chuàng)建一個磁盤文件了。此時會出現(xiàn)shuffleFileGroup的概念，每個shuffleFileGroup會對應(yīng)一批磁盤文件，磁盤文件的數(shù)量與下游stage的task數(shù)量是相同的。一個Executor上有多少個CPU core，就可以并行執(zhí)行多少個task。而第一批并行執(zhí)行的每個task都會創(chuàng)建一個shuffleFileGroup，并將數(shù)據(jù)寫入對應(yīng)的磁盤文件內(nèi)。
當(dāng)Executor的CPU core執(zhí)行完一批task，接著執(zhí)行下一批task時，下一批task就會復(fù)用之前已有的shuffleFileGroup，包括其中的磁盤文件。也就是說，此時task會將數(shù)據(jù)寫入已有的磁盤文件中，而不會寫入新的磁盤文件中。因此，consolidate機(jī)制允許不同的task復(fù)用同一批磁盤文件，這樣就可以有效將多個task的磁盤文件進(jìn)行一定程度上的合并，從而大幅度減少磁盤文件的數(shù)量，進(jìn)而提升shuffle write的性能。
假設(shè)第二個stage有100個task，第一個stage有50個task，總共還是有10個Executor，每個Executor執(zhí)行5個task。那么原本使用未經(jīng)優(yōu)化的HashShuffleManager時，每個Executor會產(chǎn)生500個磁盤文件，所有Executor會產(chǎn)生5000個磁盤文件的。但是此時經(jīng)過優(yōu)化之后，每個Executor創(chuàng)建的磁盤文件的數(shù)量的計算公式為：CPU core的數(shù)量 * 下一個stage的task數(shù)量。也就是說，每個Executor此時只會創(chuàng)建100個磁盤文件，所有Executor只會創(chuàng)建1000個磁盤文件。
SortShuffleManager運(yùn)行原理
SortShuffleManager的運(yùn)行機(jī)制主要分成兩種，一種是普通運(yùn)行機(jī)制，另一種是bypass運(yùn)行機(jī)制。當(dāng)shuffle read task的數(shù)量小于等于spark.shuffle.sort.bypassMergeThreshold參數(shù)的值時（默認(rèn)為200），就會啟用bypass機(jī)制。
普通運(yùn)行機(jī)制
下圖說明了普通的SortShuffleManager的原理。在該模式下，數(shù)據(jù)會先寫入一個內(nèi)存數(shù)據(jù)結(jié)構(gòu)中，此時根據(jù)不同的shuffle算子，可能選用不同的數(shù)據(jù)結(jié)構(gòu)。如果是reduceByKey這種聚合類的shuffle算子，那么會選用Map數(shù)據(jù)結(jié)構(gòu)，一邊通過Map進(jìn)行聚合，一邊寫入內(nèi)存；如果是join這種普通的shuffle算子，那么會選用Array數(shù)據(jù)結(jié)構(gòu)，直接寫入內(nèi)存。接著，每寫一條數(shù)據(jù)進(jìn)入內(nèi)存數(shù)據(jù)結(jié)構(gòu)之后，就會判斷一下，是否達(dá)到了某個臨界閾值。如果達(dá)到臨界閾值的話，那么就會嘗試將內(nèi)存數(shù)據(jù)結(jié)構(gòu)中的數(shù)據(jù)溢寫到磁盤，然后清空內(nèi)存數(shù)據(jù)結(jié)構(gòu)。
在溢寫到磁盤文件之前，會先根據(jù)key對內(nèi)存數(shù)據(jù)結(jié)構(gòu)中已有的數(shù)據(jù)進(jìn)行排序。排序過后，會分批將數(shù)據(jù)寫入磁盤文件。默認(rèn)的batch數(shù)量是10000條，也就是說，排序好的數(shù)據(jù)，會以每批1萬條數(shù)據(jù)的形式分批寫入磁盤文件。寫入磁盤文件是通過Java的BufferedOutputStream實(shí)現(xiàn)的。BufferedOutputStream是Java的緩沖輸出流，首先會將數(shù)據(jù)緩沖在內(nèi)存中，當(dāng)內(nèi)存緩沖滿溢之后再一次寫入磁盤文件中，這樣可以減少磁盤IO次數(shù)，提升性能。
一個task將所有數(shù)據(jù)寫入內(nèi)存數(shù)據(jù)結(jié)構(gòu)的過程中，會發(fā)生多次磁盤溢寫操作，也就會產(chǎn)生多個臨時文件。最后會將之前所有的臨時磁盤文件都進(jìn)行合并，這就是merge過程，此時會將之前所有臨時磁盤文件中的數(shù)據(jù)讀取出來，然后依次寫入最終的磁盤文件之中。此外，由于一個task就只對應(yīng)一個磁盤文件，也就意味著該task為下游stage的task準(zhǔn)備的數(shù)據(jù)都在這一個文件中，因此還會單獨(dú)寫一份索引文件，其中標(biāo)識了下游各個task的數(shù)據(jù)在文件中的start offset與end offset。
SortShuffleManager由于有一個磁盤文件merge的過程，因此大大減少了文件數(shù)量。比如第一個stage有50個task，總共有10個Executor，每個Executor執(zhí)行5個task，而第二個stage有100個task。由于每個task最終只有一個磁盤文件，因此此時每個Executor上只有5個磁盤文件，所有Executor只有50個磁盤文件。
bypass運(yùn)行機(jī)制
下圖說明了bypass SortShuffleManager的原理。bypass運(yùn)行機(jī)制的觸發(fā)條件如下：
shuffle map task數(shù)量小于spark.shuffle.sort.bypassMergeThreshold參聚合類的shuffle算子（比如reduceByKey）。
此時task會為每個下游task都創(chuàng)建一個臨時磁盤文件，并將數(shù)據(jù)按key進(jìn)行hash然后根據(jù)key的hash值，將key寫入對應(yīng)的磁盤文件之中。當(dāng)然，寫入磁盤文件時也是先寫入內(nèi)存緩沖，緩沖寫滿之后再溢寫到磁盤文件的。最后，同樣會將所有臨時磁盤文件都合并成一個磁盤文件，并創(chuàng)建一個單獨(dú)的索引文件。
該過程的磁盤寫機(jī)制其實(shí)跟未經(jīng)優(yōu)化的HashShuffleManager是一模一樣的，因?yàn)槎家獎?chuàng)建數(shù)量驚人的磁盤文件，只是在最后會做一個磁盤文件的合并而已。因此少量的最終磁盤文件，也讓該機(jī)制相對未經(jīng)優(yōu)化的HashShuffleManager來說，shuffle read的性能會更好。
而該機(jī)制與普通SortShuffleManager運(yùn)行機(jī)制的不同在于：第一，磁盤寫機(jī)制不同；第二，不會進(jìn)行排序。也就是說，啟用該機(jī)制的最大好處在于，shuffle write過程中，不需要進(jìn)行數(shù)據(jù)的排序操作，也就節(jié)省掉了這部分的性能開銷。
shuffle相關(guān)參數(shù)調(diào)優(yōu)
以下是Shffule過程中的一些主要參數(shù)，這里詳細(xì)講解了各個參數(shù)的功能、默認(rèn)值以及基于實(shí)踐經(jīng)驗(yàn)給出的調(diào)優(yōu)建議。
spark.shuffle.file.buffer
默認(rèn)值：32k
參數(shù)說明：該參數(shù)用于設(shè)置shuffle write task的BufferedOutputStream的buffer緩沖大小。將數(shù)據(jù)寫到磁盤文件之前，會先寫入buffer緩沖中，待緩沖寫滿之后，才會溢寫到磁盤。
調(diào)優(yōu)建議：如果作業(yè)可用的內(nèi)存資源較為充足的話，可以適當(dāng)增加這個參數(shù)的大小（比如64k），從而減少shuffle write過程中溢寫磁盤文件的次數(shù)，也就可以減少磁盤IO次數(shù)，進(jìn)而提升性能。在實(shí)踐中發(fā)現(xiàn)，合理調(diào)節(jié)該參數(shù)，性能會有1%~5%的提升。
spark.reducer.maxSizeInFlight
默認(rèn)值：48m
參數(shù)說明：該參數(shù)用于設(shè)置shuffle read task的buffer緩沖大小，而這個buffer緩沖決定了每次能夠拉取多少數(shù)據(jù)。
調(diào)優(yōu)建議：如果作業(yè)可用的內(nèi)存資源較為充足的話，可以適當(dāng)增加這個參數(shù)的大小（比如96m），從而減少拉取數(shù)據(jù)的次數(shù)，也就可以減少網(wǎng)絡(luò)傳輸?shù)拇螖?shù)，進(jìn)而提升性能。在實(shí)踐中發(fā)現(xiàn)，合理調(diào)節(jié)該參數(shù)，性能會有1%~5%的提升。
spark.shuffle.io.maxRetries
默認(rèn)值：3
參數(shù)說明：shuffle read task從shuffle write task所在節(jié)點(diǎn)拉取屬于自己的數(shù)據(jù)時，如果因?yàn)榫W(wǎng)絡(luò)異常導(dǎo)致拉取失敗，是會自動進(jìn)行重試的。該參數(shù)就代表了可以重試的最大次數(shù)。如果在指定次數(shù)之內(nèi)拉取還是沒有成功，就可能會導(dǎo)致作業(yè)執(zhí)行失敗。
調(diào)優(yōu)建議：對于那些包含了特別耗時的shuffle操作的作業(yè)，建議增加重試最大次數(shù)（比如60次），以避免由于JVM的full gc或者網(wǎng)絡(luò)不穩(wěn)定等因素導(dǎo)致的數(shù)據(jù)拉取失敗。在實(shí)踐中發(fā)現(xiàn)，對于針對超大數(shù)據(jù)量（數(shù)十億~上百億）的shuffle過程，調(diào)節(jié)該參數(shù)可以大幅度提升穩(wěn)定性。
spark.shuffle.io.retryWait
默認(rèn)值：5s
參數(shù)說明：具體解釋同上，該參數(shù)代表了每次重試?yán)?shù)據(jù)的等待間隔，默認(rèn)是5s。
調(diào)優(yōu)建議：建議加大間隔時長（比如60s），以增加shuffle操作的穩(wěn)定性。
spark.shuffle.memoryFraction
默認(rèn)值：0.2
參數(shù)說明：該參數(shù)代表了Executor內(nèi)存中，分配給shuffle read task進(jìn)行聚合操作的內(nèi)存比例，默認(rèn)是20%。
調(diào)優(yōu)建議：在資源參數(shù)調(diào)優(yōu)中講解過這個參數(shù)。如果內(nèi)存充足，而且很少使用持久化操作，建議調(diào)高這個比例，給shuffle read的聚合操作更多內(nèi)存，以避免由于內(nèi)存不足導(dǎo)致聚合過程中頻繁讀寫磁盤。在實(shí)踐中發(fā)現(xiàn)，合理調(diào)節(jié)該參數(shù)可以將性能提升10%左右。
spark.shuffle.manager
默認(rèn)值：sort
參數(shù)說明：該參數(shù)用于設(shè)置ShuffleManager的類型。Spark 1.5以后，有三個可選項(xiàng)：hash、sort和tungsten-sort。HashShuffleManager是Spark 1.2以前的默認(rèn)選項(xiàng)，但是Spark 1.2以及之后的版本默認(rèn)都是SortShuffleManager了。tungsten-sort與sort類似，但是使用了tungsten計劃中的堆外內(nèi)存管理機(jī)制，內(nèi)存使用效率更高。
調(diào)優(yōu)建議：由于SortShuffleManager默認(rèn)會對數(shù)據(jù)進(jìn)行排序，因此如果你的業(yè)務(wù)邏輯中需要該排序機(jī)制的話，則使用默認(rèn)的SortShuffleManager就可以；而如果你的業(yè)務(wù)邏輯不需要對數(shù)據(jù)進(jìn)行排序，那么建議參考后面的幾個參數(shù)調(diào)優(yōu)，通過bypass機(jī)制或優(yōu)化的HashShuffleManager來避免排序操作，同時提供較好的磁盤讀寫性能。這里要注意的是，tungsten-sort要慎用，因?yàn)橹鞍l(fā)現(xiàn)了一些相應(yīng)的bug。
spark.shuffle.sort.bypassMergeThreshold
默認(rèn)值：200
參數(shù)說明：當(dāng)ShuffleManager為SortShuffleManager時，如果shuffle read task的數(shù)量小于這個閾值（默認(rèn)是200），則shuffle write過程中不會進(jìn)行排序操作，而是直接按照未經(jīng)優(yōu)化的HashShuffleManager的方式去寫數(shù)據(jù)，但是最后會將每個task產(chǎn)生的所有臨時磁盤文件都合并成一個文件，并會創(chuàng)建單獨(dú)的索引文件。
調(diào)優(yōu)建議：當(dāng)你使用SortShuffleManager時，如果的確不需要排序操作，那么建議將這個參數(shù)調(diào)大一些，大于shuffle read task的數(shù)量。那么此時就會自動啟用bypass機(jī)制，map-side就不會進(jìn)行排序了，減少了排序的性能開銷。但是這種方式下，依然會產(chǎn)生大量的磁盤文件，因此shuffle write性能有待提高。
spark.shuffle.consolidateFiles
默認(rèn)值：false
參數(shù)說明：如果使用HashShuffleManager，該參數(shù)有效。如果設(shè)置為true，那么就會開啟consolidate機(jī)制，會大幅度合并shuffle write的輸出文件，對于shuffle read task數(shù)量特別多的情況下，這種方法可以極大地減少磁盤IO開銷，提升性能。
調(diào)優(yōu)建議：如果的確不需要SortShuffleManager的排序機(jī)制，那么除了使用bypass機(jī)制，還可以嘗試將spark.shffle.manager參數(shù)手動指定為hash，使用HashShuffleManager，同時開啟consolidate機(jī)制。在實(shí)踐中嘗試過，發(fā)現(xiàn)其性能比開啟了bypass機(jī)制的SortShuffleManager要高出10%~30%。
本文分別講解了開發(fā)過程中的優(yōu)化原則、運(yùn)行前的資源參數(shù)設(shè)置調(diào)優(yōu)、運(yùn)行中的數(shù)據(jù)傾斜的解決方案、為了精益求精的shuffle調(diào)優(yōu)。希望大家能夠在閱讀本文之后，記住這些性能調(diào)優(yōu)的原則以及方案。在Spark作業(yè)開發(fā)、測試以及運(yùn)行的過程中多嘗試，只有這樣，我們才能開發(fā)出更優(yōu)的Spark作業(yè)，不斷提升其性能。
