發簡信
IP屬地：北京
-
[Delta][SQL] Delta開源付費功能，最全分析ZOrder的源碼實現流程歡迎關注公眾號“Tim在路上”通常為提高數據處理的效率，計算引擎要實現謂詞的下推，而存儲引擎可以根據下推的過濾條件盡可能的跳過無關數據或文件。不...
-
[LakeHouse] Delta Lake全部開源，聊聊Delta的實現架構歡迎關注公眾號“Tim在路上”剛剛結束的Data + AI summit上，Databricks宣布將Delta Lake全部開源。 目前在La...
-
[LakeHouse] 數據湖之Iceberg一種開放的表格式歡迎關注公眾號“Tim在路上”今天來閑談下數據湖三劍客中的iceberg。 Iceberg項目2017年由Netflix發起， 它是在2018年...
-
[SPARK][CORE] 面試問題之 3.2新的特性Push-based Shuffle源碼解析
歡迎關注公眾號“Tim在路上” Spark 3.2為spark shuffle帶來了重大的改變，其中新增了push-based shuffle機...
-
[SPARK][CORE] 面試問題之談一談Push-based shuffle歡迎關注公眾號“Tim在路上”在Spark3.2中引入了領英設計的一種新的shuffle方案，今天我們先來了解下其大致的設計原理，之后會再分析其...
-
[SPARK][CORE] 面試問題之什么是 external shuffle service？歡迎關注公眾號“Tim在路上”在討論external shuffle service的具體實現之前，我們先來回顧下spark shuffle的大...
-
[SPARK][CORE] 面試問題之 Shuffle reader 的細枝末節 （下）歡迎關注公眾號“Tim在路上” 在Spark中shuffleWriter有三種實現，分別是bypassMergeSortShuffleWrite...
-
[SPARK][CORE] 面試問題之 Shuffle reader 的細枝末節 （上）歡迎關注微信公眾號“Tim在路上”之前我們已經了解了shuffle writer的詳細過程，那么生成文件后會發生什么呢？以及它們是如何被讀取呢？...
-
[SPARK][CORE] 面試問題之UnsafeShuffleWriter流程解析（下）歡迎關注微信公眾號“Tim在路上”Unsafe Shuffle的實現在一定程度上是Tungsten內存管理優化的的主要應用場景。其實現過程實際上...