Snowpark 介紹

Snowpark庫為在Snowflake中以規模查詢和處理數據提供了直觀的library。使用這個library中的任意一種語言,你可以構建在Snowflake中處理數據的應用程序,而無需將數據移動到應用程序代碼運行的系統,并作為彈性和無服務器Snowflake引擎的一部分進行規模處理。
目前,Snowflake為三種語言提供Snowpark庫:Java、Python和Scala。

Snowpark VS Snowflake Spark Connector

與使用Snowflake Connector for Spark相比,使用Snowpark進行開發具有以下優勢:

  • 支持使用專為不同語言而構建的庫和模式與Snowflake內部的數據進行交互,而不會犧牲性能或功能。
  • 支持使用本地工具(如Jupyter、VS Code或IntelliJ)編寫Snowpark代碼。
  • 支持對所有操作(包括Snowflake UDFs)進行下推。這意味著Snowpark將所有數據轉換和繁重的工作下推到Snowflake cloud,使您能夠高效處理任何大小的數據。
  • 無需在Snowflake之外使用單獨的集群進行計算。所有計算都在Snowflake內部完成。規模和計算管理由Snowflake處理。

減少數據傳輸

Snowpark操作在服務器上以惰性方式執行,這意味著您可以使用該庫延遲運行數據轉換,盡可能晚地在流水線中運行,同時將許多操作批量合并為單個操作。這減少了客戶端與Snowflake數據庫之間傳輸的數據量,同時提高了性能。
Snowpark中的核心抽象是DataFrame,它表示一組數據并提供操作這些數據的方法。在客戶端代碼中,您構建一個DataFrame對象,并設置它來檢索您想要使用的數據(例如,包含數據的列,要應用的行過濾器等)。
在構建DataFrame對象時,并不會立即檢索數據。相反,當您準備好檢索數據時,可以執行一個操作來評估DataFrame對象并將相應的SQL語句發送到Snowflake數據庫進行執行。

>>> # Create a DataFrame with the "id" and "name" columns from the "sample_product_data" table.
>>> # This does not execute the query.
>>> df = session.table("sample_product_data").select(col("id"), col("name"))

>>> # Send the query to the server for execution and
>>> # return a list of Rows containing the results.
>>> results = df.collect()

創建內聯UDF的能力

您可以在Snowpark應用程序中內聯創建用戶定義函數(UDF)。Snowpark可以將您的代碼推送到服務器上,在服務器上對數據進行大規模操作。這在循環或批處理功能中非常有用,通過創建為UDF,Snowflake可以在其內部以大規模并行化和應用代碼邏輯。
您可以使用與編寫客戶端代碼相同的語言編寫函數(例如,在Scala中使用匿名函數,在Python中使用lambda函數)。要在Snowflake數據庫中使用這些函數來處理數據,您可以在自定義代碼中定義和調用用戶定義的函數(UDFs)。
Snowpark會自動將自定義UDF的代碼推送到Snowflake數據庫。當您在客戶端代碼中調用UDF時,您的自定義代碼將在服務器上(即數據所在的地方)執行。您不需要將數據傳輸到客戶端以執行函數。

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,333評論 6 531
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,491評論 3 416
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事?!?“怎么了?”我有些...
    開封第一講書人閱讀 176,263評論 0 374
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 62,946評論 1 309
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,708評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,186評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,255評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,409評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,939評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,774評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,976評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,518評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,209評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,641評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,872評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,650評論 3 391
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,958評論 2 373