發簡信
IP屬地：上海
-
-
是時候表演真正的技術了
-
我在本地跑解決了這個問題，集群上跑還是報這個錯
解決：java jdbc操作phoenix報錯：Cannot initiate connection as SYSTEM:CATALOG is found but client does not...
集群是cdh，安裝好之后需要使用jdbc操作phoenix查詢hbase中的數據，寫了個測試代碼如下： 運行報錯 百度之后發現有人使用的方法是設置phoenix.schema...
-
從java轉入大數據，目前從事大數據研發工作
-
-
關于hbase、spark、hive使用時的優化問題
一、Hbase的優化 1、JVM優化： 1）如：HBase RegionServer 的 Java 配置選項 -XX:+UseParNewGC （設置年輕代為并行收集）-XX...
-
大數據面試必問-快速理解Hive的數據存儲格式及mapreduce底層原理
在大數據工程師面試時，下面這個題可謂是面試官的最愛，他考察了對于mapreduce框架以及hive的原理的理解，閱讀完這篇文章，在面試這一類的問題時，就會胸有撐住了！ 在創建...
-
sqoop import使用
一、sqoop作用？ sqoop是一個數據交換工具，最常用的兩個工具是導入導出。 導入導出的參照物是hadoop，向hadoop導數據就是導入。 二、sqoop的版本？ sq...
-
AZKABAN（二）使用1、啟動azkaban 啟動azkaban server。進入executor，執行： bin/ azkaban-executor-start.sh 可以使用bin/azka...
-
azkaban（最適合入門）
這里先默認大家都已經安裝并配置完成了azkaban1、啟動azkaban 啟動azkaban server。進入executor，執行： bin/ azkaban-execu...
-
Exception in thread "main" java.lang.NoSuchMethodError: scala.Predef$.ArrowAssoc(Ljava/lang/Object;)
直奔主題： 其實這個錯誤就是編譯的程序的scala版本和提交時的版本不一致導致的. 我是在idea上寫的scala程序 用的是2.11.8, 但是在提交spark時 ...
-
史上最有趣的post、get方式詳解GET和POST兩種基本請求方法的區別 GET和POST是HTTP請求的兩種基本方法，要說它們的區別，接觸過WEB開發的人都能說出一二。 最直觀的區別就是GET把參數包含在U...
-
-
Spark調優之JVM調優
今天給大家分享Spark調優相關的JVM調優，這個調優方法在開發中也很常見，他主要分為兩種，一種是降低cache操作的內存占比，一種是調節executor堆外內存和降低連接等...
