生信-使用gdc-client下載數(shù)據(jù)

正八經(jīng)的官網(wǎng): https://gdc.cancer.gov/access-data/gdc-data-transfer-tool

image.png

注:windows、redhat、ubuntu、mac的都可以下載使用

windows用戶安裝使用

windows用戶,下載的是一個(gè)gdc-client.exe文件

1.存放exe與txt

例如,我隨便找一個(gè)文件夾,文件夾地址是:E:\workspace\gdc,我把源文件(txt)與客戶端exe放在如下:


image.png

2. 打開命令行

可以使用快捷鍵,ctrl+r,輸入cmd進(jìn)入;或者點(diǎn)左下角,查找或者輸入一下運(yùn)行


查找運(yùn)行

ctrl+r 輸入cmd

進(jìn)入控制臺(tái) / 命令行

3.正片開始

# cd表示進(jìn)入這個(gè)文件夾
cd E:\workspace\gdc
# windows就是啰嗦,如果不是c盤,還要額外輸入磁盤標(biāo)識(shí)
cd E
# 接著執(zhí)行下載指令
gdc-client.exe download -m gdc_manifest.txt
參考截圖

緩慢下載中。。 估計(jì)是因?yàn)镚DC是國外服務(wù)器,距離遠(yuǎn),下載速度會(huì)慢很多,耐心點(diǎn),掛一夜估計(jì)就好了(10分鐘可能才下3mb左右)


我是分割線:2019年12月18日01:38:02


性能優(yōu)化

研究了一下下載工具,詳細(xì)看了使用文檔,寫了配置文件做了改良。

1.痛點(diǎn)

發(fā)現(xiàn)下載也會(huì)斷,而且很卡,如果掛一夜,突然在還沒入夜就斷了那其實(shí)也達(dá)不到想要目的。。可靠性太低
吐槽:很多用戶、博主只是吐槽慢,老是斷,很多時(shí)候沒有往下想,開發(fā)者是不是早就想到這些問題,已經(jīng)做好了預(yù)測,做了很多騷操作,滿足大家的需要,只不過很多人都不會(huì)深入理解。
所以利用官方文檔的幫助,利用他提供的配置文件的方式進(jìn)行下載配置。

2.默認(rèn)配置

(可以輸入命令gdc-client.exe settings download)

[download]
no_auto_retry = False
no_file_md5sum = False
save_interval = 1073741824
retry_amount = 1
n_processes = 4
no_annotations = False
no_related_files = False
http_chunk_size = 1048576
no_segment_md5sum = False
server = https://api.gdc.cancer.gov
wait_time = 5.0
no_verify = False
dir = .
如圖

3.改良后的配方

[download]
no_auto_retry = False
no_file_md5sum = False
save_interval = 1073741824
retry_amount = 6
n_processes = 4
no_annotations = False
no_related_files = False
http_chunk_size = 4096
no_segment_md5sum = False
server = https://api.gdc.cancer.gov
wait_time = 25.0
no_verify = True
dir = .    

其實(shí)很簡單,看了配置文件,用邏輯分析一下就知道怎么配置了,主要可以配置的是http_chunk_size、wait_time、retry_amount、no_verify、n_processes
解釋一下(個(gè)人理解,可能有出入,專業(yè)的看官網(wǎng)):
1. http_chunk_size:這是每一次http請求的數(shù)據(jù)塊大小,如果越大,等待時(shí)間越長,可能就會(huì)超時(shí),就pa斷了,所以為了保證每一次請求數(shù)據(jù)塊都能順利到達(dá)本地,就調(diào)小一點(diǎn)(這一步相當(dāng)關(guān)鍵了)
2. wait_time:http請求的等待時(shí)間,如果超過這個(gè)等待時(shí)間,也會(huì)pa斷了,所以這一步就可以調(diào)大一丟丟
3. retry_amount:重試次數(shù),比如說超過等待時(shí)間,就會(huì)再重新嘗試訪問,嘗試訪問次數(shù)超過,pa斷了,所以這一步也可以調(diào)大一丟丟
4. no_verify:不做校驗(yàn),(不知道它底層用什么做校驗(yàn)的),為了求速度,不做校驗(yàn)(想保證數(shù)據(jù)完整性就不要改這個(gè)啦)
5. n_processes:配置和CPU大小一致就行了

4.啟動(dòng)命令

制定dtt配置文件:將改良后的配方保存到txt與exe同級(jí)目錄,命名為gdc-client.dtt


制定dtt配置文件

同級(jí)目錄

注意:這里dtt作為后綴沒什么特殊的,官網(wǎng)只是建議,這里也跟著這么定義罷了。

在控制臺(tái)輸入

gdc-client.exe download --config gdc-client.dtt -m gdc_manifest.txt

經(jīng)過上面的配方,就會(huì)發(fā)現(xiàn)這個(gè)工具還是挺好用滴~ 而且下載后的數(shù)據(jù)更快、更穩(wěn)定~
卡頓?不存在的。

image.png

next:有了這些gdc原始數(shù)據(jù),我們還需要進(jìn)行加工,轉(zhuǎn)化為能夠方便處理數(shù)據(jù)的格式,詳見使用R語言將gdc數(shù)據(jù)轉(zhuǎn)化為基因表達(dá)矩陣

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

推薦閱讀更多精彩內(nèi)容