十分鐘搞定pandas

本文是對pandas官方網(wǎng)站上《10 Minutes to pandas》的一個簡單的翻譯,原文在這里。這篇文章是對pandas的一個簡單的介紹,詳細的介紹請參考:Cookbook。習慣上,我們會按下面格式引入所需要的包:

一、創(chuàng)建對象

可以通過Data Structure Intro Setion來查看有關(guān)該節(jié)內(nèi)容的詳細信息。

1、可以通過傳遞一個list對象來創(chuàng)建一個Series,pandas會默認創(chuàng)建整型索引:

2、通過傳遞一個numpy array,時間索引以及列標簽來創(chuàng)建一個DataFrame:

3、通過傳遞一個能夠被轉(zhuǎn)換成類似序列結(jié)構(gòu)的字典對象來創(chuàng)建一個DataFrame:

4、查看不同列的數(shù)據(jù)類型:

5、如果你使用的是IPython,使用Tab自動補全功能會自動識別所有的屬性以及自定義的列,下圖中是所有能夠被自動識別的屬性的一個子集:

二、查看數(shù)據(jù)

詳情請參閱:Basics Section

1、查看frame中頭部和尾部的行:

2、顯示索引、列和底層的numpy數(shù)據(jù):

3、describe()函數(shù)對于數(shù)據(jù)的快速統(tǒng)計匯總:

4、對數(shù)據(jù)的轉(zhuǎn)置:

5、按軸進行排序

6、按值進行排序

三、選擇

雖然標準的Python/Numpy的選擇和設(shè)置表達式都能夠直接派上用場,但是作為工程使用的代碼,我們推薦使用經(jīng)過優(yōu)化的pandas數(shù)據(jù)訪問方式:.at,.iat,.loc,.iloc和.ix詳情請參閱Indexing and Selecing DataMultiIndex / Advanced Indexing

l獲取

1、選擇一個單獨的列,這將會返回一個Series,等同于df.A:

2、通過[]進行選擇,這將會對行進行切片

l通過標簽選擇

1、使用標簽來獲取一個交叉的區(qū)域

2、通過標簽來在多個軸上進行選擇

3、標簽切片

4、對于返回的對象進行維度縮減

5、獲取一個標量

6、快速訪問一個標量(與上一個方法等價)

l通過位置選擇

1、通過傳遞數(shù)值進行位置選擇(選擇的是行)

2、通過數(shù)值進行切片,與numpy/python中的情況類似

3、通過指定一個位置的列表,與numpy/python中的情況類似

4、對行進行切片

5、對列進行切片

6、獲取特定的值

l布爾索引

1、使用一個單獨列的值來選擇數(shù)據(jù):

2、使用where操作來選擇數(shù)據(jù):

3、使用isin()方法來過濾:

l設(shè)置

1、設(shè)置一個新的列:

2、通過標簽設(shè)置新的值:

3、通過位置設(shè)置新的值:

4、通過一個numpy數(shù)組設(shè)置一組新值:

上述操作結(jié)果如下:

5、通過where操作來設(shè)置新的值:

四、缺失值處理

在pandas中,使用np.nan來代替缺失值,這些值將默認不會包含在計算中,詳情請參閱:Missing Data Section

1、reindex()方法可以對指定軸上的索引進行改變/增加/刪除操作,這將返回原始數(shù)據(jù)的一個拷貝:、

2、去掉包含缺失值的行:

3、對缺失值進行填充:

4、對數(shù)據(jù)進行布爾填充:

五、相關(guān)操作

詳情請參與Basic Section On Binary Ops

l統(tǒng)計(相關(guān)操作通常情況下不包括缺失值)

1、執(zhí)行描述性統(tǒng)計:

2、在其他軸上進行相同的操作:

3、對于擁有不同維度,需要對齊的對象進行操作。Pandas會自動的沿著指定的維度進行廣播:

lApply

1、對數(shù)據(jù)應(yīng)用函數(shù):

l直方圖

具體請參照:Histogramming and Discretization

l字符串方法

Series對象在其str屬性中配備了一組字符串處理方法,可以很容易的應(yīng)用到數(shù)組中的每個元素,如下段代碼所示。更多詳情請參考:Vectorized String Methods.

六、合并

Pandas提供了大量的方法能夠輕松的對Series,DataFrame和Panel對象進行各種符合各種邏輯關(guān)系的合并操作。具體請參閱:Merging section

lConcat

lJoin類似于SQL類型的合并,具體請參閱:Database style joining

lAppend將一行連接到一個DataFrame上,具體請參閱Appending

七、分組

對于”group by”操作,我們通常是指以下一個或多個操作步驟:

l(Splitting)按照一些規(guī)則將數(shù)據(jù)分為不同的組;

l(Applying)對于每組數(shù)據(jù)分別執(zhí)行一個函數(shù);

l(Combining)將結(jié)果組合到一個數(shù)據(jù)結(jié)構(gòu)中;

詳情請參閱:Grouping section

1、分組并對每個分組執(zhí)行sum函數(shù):

2、通過多個列進行分組形成一個層次索引,然后執(zhí)行函數(shù):

八、Reshaping

詳情請參閱Hierarchical IndexingReshaping。

lStack

l數(shù)據(jù)透視表,詳情請參閱:Pivot Tables.

可以從這個數(shù)據(jù)中輕松的生成數(shù)據(jù)透視表:

九、時間序列

Pandas在對頻率轉(zhuǎn)換進行重新采樣時擁有簡單、強大且高效的功能(如將按秒采樣的數(shù)據(jù)轉(zhuǎn)換為按5分鐘為單位進行采樣的數(shù)據(jù))。這種操作在金融領(lǐng)域非常常見。具體參考:Time Series section。

1、時區(qū)表示:

2、時區(qū)轉(zhuǎn)換:

3、時間跨度轉(zhuǎn)換:

4、時期和時間戳之間的轉(zhuǎn)換使得可以使用一些方便的算術(shù)函數(shù)。

十、Categorical

從0.15版本開始,pandas可以在DataFrame中支持Categorical類型的數(shù)據(jù),詳細介紹參看:categorical introductionAPI documentation。

1、將原始的grade轉(zhuǎn)換為Categorical數(shù)據(jù)類型:

2、將Categorical類型數(shù)據(jù)重命名為更有意義的名稱:

3、對類別進行重新排序,增加缺失的類別:

4、排序是按照Categorical的順序進行的而不是按照字典順序進行:

5、對Categorical列進行排序時存在空的類別:

十一、畫圖

具體文檔參看:Plottingdocs

對于DataFrame來說,plot是一種將所有列及其標簽進行繪制的簡便方法:

十二、導(dǎo)入和保存數(shù)據(jù)

lCSV,參考:Writing to a csv file

1、寫入csv文件:

2、從csv文件中讀取:

lHDF5,參考:HDFStores

1、寫入HDF5存儲:

2、從HDF5存儲中讀?。?/p>

lExcel,參考:MS Excel

1、寫入excel文件:

2、從excel文件中讀?。?/p>

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

推薦閱讀更多精彩內(nèi)容