TCGA數(shù)據(jù)下載方式知多少

7種下載方式比較

一、GDC client下載

1.從網(wǎng)頁選擇數(shù)據(jù),下載manifest文件

數(shù)據(jù)存放網(wǎng)站:https://portal.gdc.cancer.gov/
在Repository勾選自己需要的case和file類型。以CHOL為例:
case-Project選擇TCGA-CHOL。

file-選擇如圖:

左右分別是expdata 和clinical的樣本選擇截圖。選好后,點(diǎn)擊右側(cè)manifest鍵下載對應(yīng)的清單文件。

2.使用gdc-client工具下載

注意
將gdc-client(mac)或gdc-client.exe(windows)放在工作目錄下;

將manifest文件放在工作目錄下。

options(stringsAsFactors = F)
library(stringr)
cancer_type="TCGA-CHOL"
if(!dir.exists("clinical"))dir.create("clinical")
if(!dir.exists("expdata"))dir.create("expdata")
dir()
#下面兩行命令在terminal完成
#./gdc-client download -m gdc_manifest_cl.2020-03-23.txt -d clinical
#./gdc-client download -m gdc_manifest_expdata.2020-03-23.txt -d expdata

length(dir("./clinical/"))
length(dir("./expdata/"))

可以看到,下載的文件是按樣本存放的,我們需要得到的是表格,需要將他們批量讀入R語言并整理。

3.整理臨床信息

library(XML)
result <- xmlParse("./clinical/142aea0e-7a7b-4ac4-9dbb-0f62e2379599/nationwidechildrens.org_clinical.TCGA-W5-AA2O.xml")

rootnode <- xmlRoot(result)
xmlSize(rootnode)

print(rootnode[1])
#print(rootnode[2])
xmldataframe <- xmlToDataFrame(rootnode[2])
head(t(xmlToDataFrame(rootnode[2])))

xmls = dir("clinical/",pattern = "*.xml$",recursive = T)
cl = list()
for(i in 1:length(xmls)){
  result <- xmlParse(paste0("clinical/",xmls[[i]]))
  rootnode <- xmlRoot(result)
  cl[[i]] = xmlToDataFrame(rootnode[2])
}
clinical <- do.call(rbind,cl)
clinical[1:3,1:3]

4.整理表達(dá)矩陣

探索數(shù)據(jù):先任選兩個counts文件讀取,并觀察geneid的順序是否一致。

options(stringsAsFactors = F)
x = read.table("expdata/03aee74e-4e37-4a58-a720-c90e807d2f40/be5bc6a0-9720-47ac-953e-fa8d0c32cd82.htseq.counts.gz",
               row.names = 1,sep = "\t")
x2 = read.table("expdata/10d08172-48d2-49e7-b760-721163492cc1/c1071bcd-5a0c-4e09-a578-fc4b6dbe26ad.htseq.counts.gz",
                row.names = 1,sep = "\t")
identical(rownames(x),rownames(x2))

由此可知,他們的geneid順序是一致的,可以直接cbind,不會導(dǎo)致順序錯亂。
批量讀取所有的counts.gz文件。

count_files = dir("expdata/",pattern = "*.htseq.counts.gz$",recursive = T)

exp = list()
for(i in 1:length(count_files)){
  exp[[i]] <- read.table(paste0("expdata/",count_files[[i]]),row.names = 1,sep = "\t")
}
  
exp <- do.call(cbind,exp)
dim(exp)
exp[1:4,1:4]

發(fā)現(xiàn)問題:這樣產(chǎn)生出來的表達(dá)矩陣沒有列名。

解決辦法:找到一個文件名與樣本ID一一對應(yīng)的文件。cart-json文件。

meta <- jsonlite::fromJSON("metadata.cart.2020-03-23.json")
colnames(meta)
ids <- meta$associated_entities;class(ids)
ids[[1]]
ids[[1]][,1]

可以看到,meta$associated_entities是個列表,這個列表里包含數(shù)據(jù)框,數(shù)據(jù)框的第一列內(nèi)容就是tcga樣本id。

注意,換了數(shù)據(jù)需要自己探索存放在哪一列。不一定是完全一樣的,需要確認(rèn)清楚。

ID = sapply(ids,function(x){x[,1]})
file2id = data.frame(file_name = meta$file_name,
                     ID = ID)

文件名與TCGA樣本ID的對應(yīng)關(guān)系已經(jīng)得到,接下來是將其添加到表達(dá)矩陣中,成為行名。需要找到讀取文件的順序,一一對應(yīng)修改。

head(file2id$file_name,2)
head(count_files,2)
count_files2 = stringr::str_split(count_files,"/",simplify = T)[,2]
table(count_files2 %in% file2id$file_name)

count_files2的順序就是列名的順序,根據(jù)它來調(diào)整file2id的順序。此處需要再次理解一下match函數(shù)。

file2id = file2id[match(count_files2,file2id$file_name),]
colnames(exp) = file2id$ID
exp[1:4,1:4]

表達(dá)矩陣整理完成,需要過濾一下那些在很多樣本里表達(dá)量都為0的基因。過濾標(biāo)準(zhǔn)不唯一。

dim(exp)
#exp = exp[rowSums(exp)>0,]
exp = exp[apply(exp, 1, function(x) sum(x > 1) > 9), ]
dim(exp)
exp[1:4,1:4]
exp = as.matrix(exp)

分組信息

根據(jù)樣本ID的第14-15位,給樣本分組(tumor和normal)

table(str_sub(colnames(exp),14,15))
Group = ifelse(as.numeric(str_sub(colnames(exp),14,15)) < 10,'tumor','normal')
Group = factor(Group,levels = c("normal","tumor"))
table(Group)
save(exp,clinical,Group,cancer_type,file = paste0(cancer_type,"_gdc.Rdata"))

二、TCGAbiolinks下載

利用R包TCGAbiolinks進(jìn)行各種數(shù)據(jù)下載

三、cgds下載

  1. TCGA數(shù)據(jù)生存分析
  2. 使用R語言的cgdsr包獲取TCGA數(shù)據(jù)

四、RTCGA下載

使用R語言的RTCGA包獲取TCGA數(shù)據(jù)

五、RTCGAToolbox下載

使用R語言的RTCGAToolbox包獲取TCGA數(shù)據(jù)

參考
生信技能書 #TCGA 生信技能書之100篇

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

推薦閱讀更多精彩內(nèi)容