背景
數(shù)據(jù)的合并與關(guān)聯(lián)是數(shù)據(jù)處理過程中經(jīng)常遇到的問題,在SQL、HQL中大家可能都有用到 join、uion all 等 ,在 Pandas 中也有同樣的功能,來滿足數(shù)據(jù)處理需求,個人感覺Pandas 處理數(shù)據(jù)還是非常方便,數(shù)據(jù)處理效率比較高,能滿足不同的業(yè)務需求
本篇文章主要介紹 Pandas 中的數(shù)據(jù)拼接與關(guān)聯(lián)
數(shù)據(jù)拼接---pd.concat
concat 是pandas級的函數(shù),用來拼接或合并數(shù)據(jù),其根據(jù)不同的軸既可以橫向拼接,又可以縱向拼接
函數(shù)參數(shù)
pd.concat(
objs: 'Iterable[NDFrame] | Mapping[Hashable, NDFrame]',
axis=0,
join='outer',
ignore_index: 'bool' = False,
keys=None,
levels=None,
names=None,
verify_integrity: 'bool' = False,
sort: 'bool' = False,
copy: 'bool' = True,
) -> 'FrameOrSeriesUnion'
-
objs
:合并的數(shù)據(jù)集,一般用列表傳入,例如:[df1,df2,df3] -
axis
:指定數(shù)據(jù)拼接時的軸,0是行,在行方向上拼接;1是列,在列方向上拼接 -
join
:拼接的方式有 inner,或者outer,與sql中的意思一樣
以上三個參數(shù)在實際工作中經(jīng)常使用,其他參數(shù)不再做介紹
案例:
模擬數(shù)據(jù)
-
橫向拼接
橫向拼接-1
字段相同的列進行堆疊,字段不同的列分列存放,缺失值用NAN
來填充,下面對模擬數(shù)據(jù)進行變換用相同的字段,進行演示
橫向拼接-2
-
縱向拼接
縱向拼接
可以看出在縱向拼接的時候,會按索引進行關(guān)聯(lián),使相同名字的成績放在一起,而不是簡單的堆疊
數(shù)據(jù)關(guān)聯(lián)---pd.merge
數(shù)據(jù)聯(lián)接,與SQL中的join基本一樣,用來關(guān)聯(lián)不同的數(shù)據(jù)表,有左表、右表的區(qū)分,可以指定關(guān)聯(lián)的字段
函數(shù)參數(shù)
pd.merge(
left: 'DataFrame | Series',
right: 'DataFrame | Series',
how: 'str' = 'inner',
on: 'IndexLabel | None' = None,
left_on: 'IndexLabel | None' = None,
right_on: 'IndexLabel | None' = None,
left_index: 'bool' = False,
right_index: 'bool' = False,
sort: 'bool' = False,
suffixes: 'Suffixes' = ('_x', '_y'),
copy: 'bool' = True,
indicator: 'bool' = False,
validate: 'str | None' = None,
) -> 'DataFrame'
-
left
:左表 -
right
:右表 -
how
:關(guān)聯(lián)的方式,{'left', 'right', 'outer', 'inner', 'cross'}, 默認關(guān)聯(lián)方式為 'inner' -
on
:關(guān)聯(lián)時指定的字段,兩個表共有的 -
left_on
:關(guān)聯(lián)時用到左表中的字段,在兩個表不共有關(guān)聯(lián)字段時使用 -
right_on
:關(guān)聯(lián)時用到右表中的字段,在兩個表不共有關(guān)聯(lián)字段時使用
以上參數(shù)在實際工作中經(jīng)常使用,其他參數(shù)不再做介紹
案例:
數(shù)據(jù)關(guān)聯(lián)
merge 的使用與SQL中的 join 很像,使用方式基本一致,既有內(nèi)連接,也有外連接,用起來基本沒有什么難度
兩者區(qū)別
- concat 只是 pandas 下的方法,而 merge 即是 pandas 下的方法,又是DataFrame 下的方法
- concat 可以橫向、縱向拼接,又起到關(guān)聯(lián)的作用
- merge 只能進行關(guān)聯(lián),也就是縱向拼接
- concat 可以同時處理多個數(shù)據(jù)框DataFrame,而 merge 只能同時處理 2 個數(shù)據(jù)框
歷史相關(guān)文章
- 像excel透視表一樣使用pandas透視函數(shù)
- Python pandas 數(shù)據(jù)篩選與賦值升級版詳解
- Python pandas數(shù)據(jù)分列,分割符號&固定寬度
以上是自己實踐中遇到的一些問題,分享出來供大家參考學習,歡迎關(guān)注微信公眾號:DataShare ,不定期分享干貨