Scala更適合用于大數據處理和機器學習

Scala更適合用于大數據處理和機器學習
http://www.infoq.com/cn/news/2014/10/data-eng-learn-scala

Scala是一門現代的多范式編程語言,設計初衷是要集成面向對象編程和函數式編程的各種特性。Scala允許用戶使用命令和函數范式編寫代碼。Scala運行在Java虛擬機之上,可以直接調用Java類庫。對于新手來說,Scala相對比較復雜,其看起來靈活的語法并不容易掌握,但是對于熟悉Scala的用戶來說,Scala是一把利器,它提供了許多獨特的語言機制,可以以庫的形式輕易無縫添加新的語言結構。近日,Spotify的軟件工程師Neville Li發表了一篇題為《數據工程師應該學習Scala的三個理由》的文章,他認為現在的編程語言種類非常多,每種語言都各有優缺點,并且它們的適用的場景也不同,比如Scala就非常適合用于數據處理和機器學習。
在大數據和機器學習領域,很多開發者都有Python/R/Matlab語言的背景,相比與Java或者C++,Scala的語法更容易掌握。從以往的經驗來看,只要掌握基本的集合API以及lambda,一個沒有經驗的新員工就可以快速上手處理數據。像BreezeScalaLabBIDMach這樣的類庫都通過操作符重寫模仿了一些流行工具的語法以及其它的一些語法糖,簡單并且容易使用。另外,Scala的性能比傳統的Python或者R語言更好。
由于Scala運行于Java平臺(Java虛擬機),并兼容現有的Java程序,所以Scala可以和大數據相關的基于JVM的系統很好的集成,比如基于JVM類庫的框架Scalding(Cascading)、Summingbird(Scalding和Storm)、Scrunch(Crunch)、Flink(Java編寫并有Scala的API),本身使用Scale開發的系統Spark、Kafka。另外,很多數據存儲解決方案都支持JVM語言,比如CassandraHBaseVoldemortDatomic
函數編程范式更適合用于Map/Reduce和大數據模型,它摒棄了數據與狀態的計算模型,著眼于函數本身,而非執行的過程的數據和狀態的處理。函數范式邏輯清晰、簡單,非常適合用于處理基于不變數據的批量處理工作,這些工作基本都是通過map和reduce操作轉換數據后,生成新的數據副本,然后再進行處理。而大多數的Scala數據框架都能夠把Scala數據集合API和抽象數據類型相統一,比如Scalding中的TypedPipe與Spark中的RDD都有相同的方法,包括map、flatMap、filter、reduce、fold和groupBy,這樣使用Scala來處理就更為方便。開發者只需要學習標準集合就可以迅速上手其它工具包。另外,很多的類庫都參考了范疇論中的一些設計,它們通過使用semigroup、monoid、group標識來保證分布式操作的正確性。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,763評論 6 539
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,238評論 3 428
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,823評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,604評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,339評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,713評論 1 328
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,712評論 3 445
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,893評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,448評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,201評論 3 357
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,397評論 1 372
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,944評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,631評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,033評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,321評論 1 293
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,128評論 3 398
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,347評論 2 377

推薦閱讀更多精彩內容