16個(gè)非常實(shí)用的大數(shù)據(jù)工具

Apache Hadoop是目前最成熟的大數(shù)據(jù)分析工具,但是市場(chǎng)上也不乏其他優(yōu)秀的大數(shù)據(jù)工具。目前市場(chǎng)上有數(shù)千種工具能夠幫你節(jié)約時(shí)間和成本,帶你從全新的角度洞察你所在的行業(yè)。

隨著大數(shù)據(jù)市場(chǎng)的穩(wěn)步發(fā)展,越來(lái)越多的公司開(kāi)始部署大數(shù)據(jù)驅(qū)動(dòng)戰(zhàn)略。

Apache Hadoop是目前最成熟的大數(shù)據(jù)分析工具,但是市場(chǎng)上也不乏其他優(yōu)秀的大數(shù)據(jù)工具。目前市場(chǎng)上有數(shù)千種工具能夠幫你節(jié)約時(shí)間和成本,帶你從全新的角度洞察你所在的行業(yè)。大家可關(guān)注weixin公眾號(hào):大數(shù)據(jù)技術(shù)工程師 有更多大數(shù)據(jù)精彩內(nèi)容等你來(lái)看,還有大數(shù)據(jù)學(xué)習(xí)資料免費(fèi)領(lǐng)取哦,回復(fù)關(guān)鍵字即可。

以下介紹16種功能實(shí)用的大數(shù)據(jù)工具:

1,Avro:由Doug Cutting公司研發(fā),可用于編碼Hadoop文件模式的數(shù)據(jù)序列化。

2,Cassandra:一種分布式的開(kāi)源數(shù)據(jù)庫(kù)。可用于處理商品服務(wù)器在提供高可用性服務(wù)時(shí)產(chǎn)生的大量分布式數(shù)據(jù)。這是一種非關(guān)系型數(shù)據(jù)庫(kù)(NoSQL)解決方案,最初由Facebook主導(dǎo)研發(fā)。

目前很多公司組織都在使用這一數(shù)據(jù)庫(kù),如Netflix,Cisco,Twitter。

3,Drill:一種開(kāi)源分布式系統(tǒng),用于大規(guī)模數(shù)據(jù)集的交互分析。Drill與谷歌的Dremel系統(tǒng)類(lèi)似,由Apache公司管理運(yùn)行。

4,Elasticsearch:Apache Lucene開(kāi)發(fā)的開(kāi)源搜索引擎。Elasticsearch是基于Java的系統(tǒng),可以實(shí)現(xiàn)高速搜索,支持你的數(shù)據(jù)搜索工作。

5,F(xiàn)lume:使用網(wǎng)絡(luò)服務(wù)器、應(yīng)用服務(wù)器和移動(dòng)服務(wù)器的數(shù)據(jù)來(lái)填充Hadoop的大數(shù)據(jù)應(yīng)用框架,是數(shù)據(jù)源和Hadoop之間的一種連接紐帶。

6,HCatalog:是針對(duì)Apache Hadoop的集中元數(shù)據(jù)管理和分享服務(wù)。可以通過(guò)它集中查看Hadoop集群中的所有數(shù)據(jù),并可以在不知道數(shù)據(jù)在集群中存儲(chǔ)位置的情況下,通過(guò)Pig和 Hive等多種工具處理所有數(shù)據(jù)元素。

7,Impala: 使用與Apache Hive相同的元數(shù)據(jù),SQL語(yǔ)法(Hive SQL),ODBC驅(qū)動(dòng)程序和用戶界面(HueBeeswax),直接幫助您對(duì)存儲(chǔ)在HDFS或HBase中的Apache Hadoop數(shù)據(jù)進(jìn)行快速的交互式SQL查詢(xún)。

它為批量導(dǎo)向或?qū)崟r(shí)查詢(xún)提供了一個(gè)方便操作的統(tǒng)一平臺(tái)。

8,JSON:今天的許多非關(guān)系型數(shù)據(jù)庫(kù)(NoSQL)都以JSON(JavaScript對(duì)象符號(hào))格式存儲(chǔ)數(shù)據(jù),這些格式在Web開(kāi)發(fā)人員中很受歡迎。

9,Kafka:這是種分布式“發(fā)布——訂閱”的消息傳送系統(tǒng),它能夠提供一種解決方案,幫助處理所有數(shù)據(jù)流活動(dòng),并在消費(fèi)者網(wǎng)站上處理這些數(shù)據(jù)。

這種類(lèi)型的數(shù)據(jù)(包括頁(yè)面查看數(shù)據(jù),搜索數(shù)據(jù)和其他用戶操作數(shù)據(jù))是當(dāng)前社交網(wǎng)絡(luò)的關(guān)鍵組成部分。

10,MongoDB:是一個(gè)在開(kāi)源概念指導(dǎo)下開(kāi)發(fā)出來(lái)的面向文檔的非關(guān)系型數(shù)據(jù)庫(kù)(NoSQL)。它具有完整的索引支持,同時(shí)可以靈活地對(duì)任何屬性進(jìn)行索引,并在不影響功能的情況下進(jìn)行橫向擴(kuò)容。

11,Neo4j:是一個(gè)圖形數(shù)據(jù)庫(kù),與關(guān)系數(shù)據(jù)庫(kù)相比,性能提升高達(dá)1000多倍或更高。

12,Oozie:一種工作流程處理系統(tǒng),可以讓用戶自定義不同語(yǔ)言編寫(xiě)的一系列工作,如Map Reduce,Pig 和 Hive。它還可以實(shí)現(xiàn)不同工作項(xiàng)目之間的智能連接,Oozie還支持用戶指定依賴(lài)關(guān)系。

13,Pig:是由雅虎開(kāi)發(fā)的基于Hadoop的一種語(yǔ)言,對(duì)于用戶來(lái)說(shuō),學(xué)習(xí)起來(lái)相對(duì)簡(jiǎn)單,且Pig擅長(zhǎng)處理非常深入且非常長(zhǎng)的數(shù)據(jù)管道(data pipeline)。

14,Storm:是一種免費(fèi)的進(jìn)行實(shí)時(shí)分布式計(jì)算的開(kāi)源系統(tǒng)。通過(guò)Storm,用戶可以非常輕松的在能夠進(jìn)行實(shí)時(shí)處理操作的范圍內(nèi),對(duì)非結(jié)構(gòu)化數(shù)據(jù)流進(jìn)行可靠處理。

系統(tǒng)具有容錯(cuò)特性,支持幾乎所有編程語(yǔ)言,當(dāng)然最常用的語(yǔ)言還是Java。Storm最初是Apache家族的一個(gè)分支,現(xiàn)在已被Twitter收購(gòu)。

15,Tableau:是一種主要關(guān)注商業(yè)智能的數(shù)據(jù)可視化工具。用戶無(wú)需編程,就可以利用Tableau創(chuàng)建地圖,條形圖,散點(diǎn)圖等可視化圖像。

他們最近發(fā)布了一個(gè)Web連接器,允許用戶直接連接數(shù)據(jù)庫(kù)或應(yīng)用程序界面(API),從而使用戶能夠在進(jìn)行可視化項(xiàng)目時(shí)獲取實(shí)時(shí)數(shù)據(jù)。

16,ZooKeeper:為大型分布式系統(tǒng)提供集中配置和開(kāi)放代碼名稱(chēng)注冊(cè)的服務(wù)。

每天大數(shù)據(jù)技術(shù)領(lǐng)域都會(huì)涌現(xiàn)出大量新的大數(shù)據(jù)相關(guān)工具,要想學(xué)會(huì)使用每個(gè)工具是非常困難且沒(méi)有意義的。挑選幾個(gè)你能夠熟練使用的工具,并不斷學(xué)習(xí)技術(shù)知識(shí),才是最好的方式。

在這里我為大家介紹一個(gè)大數(shù)據(jù)的交流群,615997810? 大家有興趣的話可以加進(jìn)來(lái),每周每晚都有大數(shù)據(jù)基礎(chǔ)與項(xiàng)目實(shí)戰(zhàn)的課程更新,也可以和大家一起相互學(xué)習(xí)交流討論,群里的這些我整理了一些,可以加群直接找群主免費(fèi)領(lǐng)取哦、

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,316評(píng)論 6 531
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 98,481評(píng)論 3 415
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人,你說(shuō)我怎么就攤上這事。” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 176,241評(píng)論 0 374
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng),這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 62,939評(píng)論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 71,697評(píng)論 6 409
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 55,182評(píng)論 1 324
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,247評(píng)論 3 441
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 42,406評(píng)論 0 288
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 48,933評(píng)論 1 334
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 40,772評(píng)論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 42,973評(píng)論 1 369
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,516評(píng)論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,209評(píng)論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 34,638評(píng)論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 35,866評(píng)論 1 285
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 51,644評(píng)論 3 391
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 47,953評(píng)論 2 373

推薦閱讀更多精彩內(nèi)容