2 Greenplum導(dǎo)入導(dǎo)出工具詳細(xì)介紹

2.1 導(dǎo)入導(dǎo)出工具說(shuō)明

2.1.1 使用Gpfdist服務(wù)

GPFDIST是emc工程師推薦的最快的導(dǎo)入導(dǎo)出工具。導(dǎo)入導(dǎo)出數(shù)據(jù)的時(shí)候gpfdist是同時(shí)并行的與各個(gè)節(jié)點(diǎn)互動(dòng),效率很高(十分高!如果忽略掉GP的一些其他問(wèn)題,簡(jiǎn)直完美)。
在我們的實(shí)際試驗(yàn)中使用一個(gè)gpfdist加上千兆網(wǎng)卡裝載4G的gz文件(壓縮前為36G)的文件約要170秒;然后再導(dǎo)出這個(gè)數(shù)據(jù)耗時(shí)約580秒。如果使用四個(gè)gpfdist,在千兆網(wǎng)卡的支持下速度大約可以提高2.5-3倍。
概述:
gpfdist [-d directory] [-p http_port] [-l log_file] [-t timeout] [-m max_length]
-d:
gpfdist所指向的路徑,在這個(gè)路徑下gpfdist才能讀取文件或?qū)懭胛募?br> 如果沒(méi)有指定這個(gè)東西,gpfdist會(huì)默認(rèn)為指向當(dāng)前路徑;
注意:?jiǎn)?dòng)gpfdist服務(wù)的用戶(hù)要對(duì)這個(gè)路徑有讀寫(xiě)權(quán)限。
-l:
指定日志文件的路徑,記錄gpfdist的運(yùn)行日志,其實(shí)是個(gè)簡(jiǎn)單日志(包含一些啟動(dòng)、關(guān)閉、找不到文件之類(lèi)的無(wú)聊東西)。
-p:
指定gpfdist服務(wù)端口,這個(gè)值默認(rèn)是8080,前置機(jī)一般使用9000以上的端口
-t:
為gp創(chuàng)建一個(gè)到gpfdist的連接設(shè)置一個(gè)超時(shí)時(shí)間;
默認(rèn)是5秒,允許設(shè)置值范圍為2-30秒。一般情況不需對(duì)這個(gè)做設(shè)定。
-m:
允許文本文件行的最大長(zhǎng)度(以bytes為單位)。默認(rèn)值為32768.
取值范圍為: 32K -- 1MB,目前前置機(jī)的項(xiàng)目都只是使用默認(rèn)值。
-?
獲得幫助
--version
查看版本

2.1.2 使用Copy命令

COPY命令是使用比較靈活的導(dǎo)入導(dǎo)出工具,這個(gè)工具是postgresql本身帶的工具實(shí)現(xiàn)表和文件之間拷貝數(shù)據(jù),EMC公司對(duì)其進(jìn)行了加工,使其在greenplum的集群環(huán)境下可以使用。目前在GP4.1及之前的版本中copy的是逐個(gè)節(jié)點(diǎn)(逐個(gè)postgresql )來(lái)導(dǎo)入導(dǎo)出的,所以在效率上比gpfdist要低;
但是copy命令可以很簡(jiǎn)潔完成一個(gè)導(dǎo)入導(dǎo)出操作,使得它也具有十分光輝的魅力。
由于這個(gè)工具是直接從postgresql發(fā)展出來(lái)的完全可以按照postgresql的方式使用,因此在網(wǎng)絡(luò)上關(guān)于copy的資料十分豐富,所以很多開(kāi)發(fā)人員都萬(wàn)分樂(lè)意的使用之。
概述(來(lái)源于萬(wàn)能的幫助文檔):
COPY tablename [ ( column [, ...] ) ]
FROM { 'filename' | STDIN }
[ [ WITH ]
[ BINARY ]
[ OIDS ]
[ DELIMITER [ AS ] 'delimiter' ]
[ NULL [ AS ] 'null string' ]
[ CSV [ HEADER ]
[ QUOTE [ AS ] 'quote' ]
[ ESCAPE [ AS ] 'escape' ]
[ FORCE NOT NULL column [, ...] ]

COPY { tablename [ ( column [, ...] ) ] | ( query ) }
TO { 'filename' | STDOUT }
[ [ WITH ]
[ BINARY ]
[ HEADER ]
[ OIDS ]
[ DELIMITER [ AS ] 'delimiter' ]
[ NULL [ AS ] 'null string' ]
[ CSV [ HEADER ]
[ QUOTE [ AS ] 'quote' ]
[ ESCAPE [ AS ] 'escape' ]
[ FORCE QUOTE column [, ...] ]

參數(shù)說(shuō)明:
1、tablename
現(xiàn)存表的名字(可以有模式修飾)
2、column
可選的待拷貝字段列表。如果沒(méi)有聲明字段列表,那么將使用所有字段。
3、query
一個(gè)必須用圓括弧包圍的 SELECT 或 VALUES 命令,其結(jié)果將被拷貝。
4、filename
輸入或輸出文件的絕對(duì)路徑。Windows 用戶(hù)可能需要使用 E'' 字符串和雙反斜線作為路徑分割符。
5、STDIN
聲明輸入是來(lái)自客戶(hù)端應(yīng)用
6、STDOUT
聲明輸入前往客戶(hù)端應(yīng)用
7、BINARY
使用二進(jìn)制格式存儲(chǔ)和讀取,而不是以文本的方式。在二進(jìn)制模式下,不能聲明 DELIMITER, NULL, CSV 選項(xiàng)。
8、OIDS
聲明為每行拷貝內(nèi)部對(duì)象標(biāo)識(shí)(OID)。如果為一個(gè) query 拷貝或者沒(méi)有 OID 的表聲明了 OIDS 選項(xiàng),則拋出一個(gè)錯(cuò)誤。
9、delimiter
在文件中分隔各個(gè)字段的單個(gè)字符。在文本模式下,缺省是水平制表符,在 CSV 模式下是一個(gè)逗號(hào)。
10、null string
這是一個(gè)代表 NULL 值的字符串。在文本模式下缺省是 \N ,在 CSV 模式下是一個(gè)沒(méi)有引號(hào)的 NULL 。如果你不想?yún)^(qū)分 NULL 和空字符串,那么即使在文本模式下你可能也會(huì)使用一個(gè)空字符串。
【注意】在使用 COPY FROM 的時(shí)候,任何匹配這個(gè)字符串的字符串將被存儲(chǔ)為 NULL 值,所以你應(yīng)該確保你用的字符串和 COPY TO 相同。
11、CSV
打開(kāi)逗號(hào)分隔變量(CSV)模式
12、HEADER
聲明文件包含一個(gè)標(biāo)題頭行,包含文件中每個(gè)字段的名字。輸出時(shí),第一行包含表的字段名;輸入時(shí),第一行被忽略。
13、quote
聲明 CSV 模式里的引號(hào)字符。缺省是雙引號(hào)。
14、escape
聲明在 CSV 模式下應(yīng)該出現(xiàn)在數(shù)據(jù)里 QUOTE 字符值前面的字符。缺省是 QUOTE 值(通常是雙引號(hào))。
15、FORCE QUOTE
在 CSV COPY TO 模式下,強(qiáng)制在每個(gè)聲明的字段周?chē)鷮?duì)所有非 NULL 值都使用引號(hào)包圍。NULL 輸出從不會(huì)被引號(hào)包圍。
16、FORCE NOT NULL
在 CSV COPY FROM 模式下,把聲明的每個(gè)字段都當(dāng)作它們有引號(hào)包圍來(lái)處理,因此就沒(méi)有 NULL 值。對(duì)于在 CSV 模式下的缺省空字符串(''),這樣導(dǎo)致一個(gè)缺失的數(shù)值當(dāng)作一個(gè)零長(zhǎng)字符串輸入。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,885評(píng)論 6 541
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過(guò)查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,312評(píng)論 3 429
  • 文/潘曉璐 我一進(jìn)店門(mén),熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái),“玉大人,你說(shuō)我怎么就攤上這事。” “怎么了?”我有些...
    開(kāi)封第一講書(shū)人閱讀 177,993評(píng)論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我,道長(zhǎng),這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書(shū)人閱讀 63,667評(píng)論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,410評(píng)論 6 411
  • 文/花漫 我一把揭開(kāi)白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開(kāi)封第一講書(shū)人閱讀 55,778評(píng)論 1 328
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,775評(píng)論 3 446
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起,我...
    開(kāi)封第一講書(shū)人閱讀 42,955評(píng)論 0 289
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,521評(píng)論 1 335
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,266評(píng)論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,468評(píng)論 1 374
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,998評(píng)論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,696評(píng)論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書(shū)人閱讀 35,095評(píng)論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開(kāi)封第一講書(shū)人閱讀 36,385評(píng)論 1 294
  • 我被黑心中介騙來(lái)泰國(guó)打工, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 52,193評(píng)論 3 398
  • 正文 我出身青樓,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,431評(píng)論 2 378

推薦閱讀更多精彩內(nèi)容

  • 1. Java基礎(chǔ)部分 基礎(chǔ)部分的順序:基本語(yǔ)法,類(lèi)相關(guān)的語(yǔ)法,內(nèi)部類(lèi)的語(yǔ)法,繼承相關(guān)的語(yǔ)法,異常的語(yǔ)法,線程的語(yǔ)...
    子非魚(yú)_t_閱讀 31,733評(píng)論 18 399
  • Spring Cloud為開(kāi)發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見(jiàn)模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn),斷路器,智...
    卡卡羅2017閱讀 134,819評(píng)論 18 139
  • 一. Java基礎(chǔ)部分.................................................
    wy_sure閱讀 3,829評(píng)論 0 11
  • 泰倫·盧,或許在執(zhí)掌騎士隊(duì)教鞭以前,球迷對(duì)他最大的印象就是2001年總決賽上被艾弗森跨過(guò)的那一幕,甚至比較年輕的觀...
    氧氣是個(gè)地鐵閱讀 5,989評(píng)論 0 0
  • 在 19 世紀(jì)中葉,卡爾 · 馬克思提出了卓越的經(jīng)濟(jì)見(jiàn)解,并據(jù)以預(yù)言無(wú)產(chǎn)階級(jí)和資產(chǎn)階級(jí)的沖突將日益激烈,無(wú)產(chǎn)階級(jí)必...
    王詩(shī)翔閱讀 161評(píng)論 1 0