📜  如何堆叠多个 Pandas DataFrame?(1)

📅  最后修改于: 2023-12-03 14:52:59.645000             🧑  作者: Mango

如何堆叠多个 Pandas DataFrame?

在数据科学中,常常需要将多个数据框按行或列方向进行堆叠。在 Pandas 中,可以使用 concat、append、merge 等函数实现。

concat 函数

concat 函数可以沿着指定的轴(默认为行)将多个 Pandas DataFrame 堆叠在一起。例如:

import pandas as pd

# 创建三个数据框
df1 = pd.DataFrame({'A': ['A0', 'A1', 'A2', 'A3'],
                    'B': ['B0', 'B1', 'B2', 'B3'],
                    'C': ['C0', 'C1', 'C2', 'C3'],
                    'D': ['D0', 'D1', 'D2', 'D3']})

df2 = pd.DataFrame({'A': ['A4', 'A5', 'A6', 'A7'],
                    'B': ['B4', 'B5', 'B6', 'B7'],
                    'C': ['C4', 'C5', 'C6', 'C7'],
                    'D': ['D4', 'D5', 'D6', 'D7']})

df3 = pd.DataFrame({'A': ['A8', 'A9', 'A10', 'A11'],
                    'B': ['B8', 'B9', 'B10', 'B11'],
                    'C': ['C8', 'C9', 'C10', 'C11'],
                    'D': ['D8', 'D9', 'D10', 'D11']})

# 纵向堆叠
result = pd.concat([df1, df2, df3])
print(result)

上述代码将会输出:

Out[1]:
     A   B   C   D
0   A0  B0  C0  D0
1   A1  B1  C1  D1
2   A2  B2  C2  D2
3   A3  B3  C3  D3
0   A4  B4  C4  D4
1   A5  B5  C5  D5
2   A6  B6  C6  D6
3   A7  B7  C7  D7
0   A8  B8  C8  D8
1   A9  B9  C9  D9
2  A10  B10 C10 D10
3  A11  B11 C11 D11

从结果可以看出,三个数据框按矩阵的形式纵向堆叠了起来,索引从 0 开始递增。

如果不想要这种从 0 开始递增的索引,可以通过将 ignore_index 参数设置为 True 来忽略原来的索引:

# 纵向堆叠
result = pd.concat([df1, df2, df3], ignore_index=True)
print(result)

输出结果:

Out[2]:
      A   B   C   D
0    A0  B0  C0  D0
1    A1  B1  C1  D1
2    A2  B2  C2  D2
3    A3  B3  C3  D3
4    A4  B4  C4  D4
5    A5  B5  C5  D5
6    A6  B6  C6  D6
7    A7  B7  C7  D7
8    A8  B8  C8  D8
9    A9  B9  C9  D9
10  A10  B10 C10 D10
11  A11  B11 C11 D11

如果需要横向堆叠数据框,可以通过设置 axis 参数为 1 来实现:

# 横向堆叠
result = pd.concat([df1, df2, df3], axis=1)
print(result)

输出结果:

Out[3]:
    A   B   C   D   A   B   C   D    A    B    C    D
0  A0  B0  C0  D0  A4  B4  C4  D4   A8   B8   C8   D8
1  A1  B1  C1  D1  A5  B5  C5  D5   A9   B9   C9   D9
2  A2  B2  C2  D2  A6  B6  C6  D6  A10  B10  C10  D10
3  A3  B3  C3  D3  A7  B7  C7  D7  A11  B11  C11  D11

从结果中可以看出,三个数据框按列的方式进行了横向堆叠。

append 函数

append 函数可以将一个数据框追加在另一个数据框的下方(即纵向堆叠)。例如:

# 在 df1 的下方追加 df2
result = df1.append(df2)
print(result)

输出结果:

Out[4]:
    A   B   C   D
0  A0  B0  C0  D0
1  A1  B1  C1  D1
2  A2  B2  C2  D2
3  A3  B3  C3  D3
0  A4  B4  C4  D4
1  A5  B5  C5  D5
2  A6  B6  C6  D6
3  A7  B7  C7  D7

可以看出,数据框 df2 被纵向堆叠在了 df1 的下方。

如果要追加多个数据框,可以使用类似 concat 函数的方式:

# 在 df1 的下方依次追加 df2 和 df3
result = df1.append([df2, df3])
print(result)

输出结果:

Out[5]:
     A   B   C   D
0   A0  B0  C0  D0
1   A1  B1  C1  D1
2   A2  B2  C2  D2
3   A3  B3  C3  D3
0   A4  B4  C4  D4
1   A5  B5  C5  D5
2   A6  B6  C6  D6
3   A7  B7  C7  D7
0   A8  B8  C8  D8
1   A9  B9  C9  D9
2  A10  B10 C10 D10
3  A11  B11 C11 D11
merge 函数

merge 函数可以实现两个数据框之间的列的合并。例如:

# 创建两个数据框
df1 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3'],
                    'A': ['A0', 'A1', 'A2', 'A3'],
                    'B': ['B0', 'B1', 'B2', 'B3']})

df2 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3'],
                    'C': ['C0', 'C1', 'C2', 'C3'],
                    'D': ['D0', 'D1', 'D2', 'D3']})

# 合并 df1 和 df2
result = pd.merge(df1, df2, on='key')
print(result)

输出结果:

Out[6]:
  key   A   B   C   D
0  K0  A0  B0  C0  D0
1  K1  A1  B1  C1  D1
2  K2  A2  B2  C2  D2
3  K3  A3  B3  C3  D3

可以看出,这两个数据框通过共同的列 'key' 进行了合并。

如果两个数据框中的共同列的列名不同,可以使用 left_on 和 right_on 参数来指定:

# 指定列名不同的列进行合并
df1 = pd.DataFrame({'lkey': ['K0', 'K1', 'K2', 'K3'],
                    'A': ['A0', 'A1', 'A2', 'A3'],
                    'B': ['B0', 'B1', 'B2', 'B3']})

df2 = pd.DataFrame({'rkey': ['K0', 'K1', 'K2', 'K3'],
                    'C': ['C0', 'C1', 'C2', 'C3'],
                    'D': ['D0', 'D1', 'D2', 'D3']})

result = pd.merge(df1, df2, left_on='lkey', right_on='rkey')
print(result)

输出结果:

Out[7]:
  lkey   A   B rkey   C   D
0   K0  A0  B0   K0  C0  D0
1   K1  A1  B1   K1  C1  D1
2   K2  A2  B2   K2  C2  D2
3   K3  A3  B3   K3  C3  D3

除此之外,merge 函数还支持 inner、outer、left、right 四种不同的合并方式,通过 how 参数来指定,默认为 inner:

# 指定不同的合并方式
df1 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K3'],
                    'A': ['A0', 'A1', 'A2', 'A3'],
                    'B': ['B0', 'B1', 'B2', 'B3']})

df2 = pd.DataFrame({'key': ['K0', 'K1', 'K2', 'K4'],
                    'C': ['C0', 'C1', 'C2', 'C4'],
                    'D': ['D0', 'D1', 'D2', 'D4']})

# 内部连接(默认)
result = pd.merge(df1, df2, on='key')
print(result)

# 外部连接
result = pd.merge(df1, df2, on='key', how='outer')
print(result)

# 左连接
result = pd.merge(df1, df2, on='key', how='left')
print(result)

# 右连接
result = pd.merge(df1, df2, on='key', how='right')
print(result)

输出结果:

   key   A   B   C   D
0   K0  A0  B0  C0  D0
1   K1  A1  B1  C1  D1
2   K2  A2  B2  C2  D2

   key    A    B    C    D
0   K0   A0   B0   C0   D0
1   K1   A1   B1   C1   D1
2   K2   A2   B2   C2   D2
3   K3   A3   B3  NaN  NaN
4   K4  NaN  NaN   C4   D4

  key   A   B    C    D
0  K0  A0  B0   C0   D0
1  K1  A1  B1   C1   D1
2  K2  A2  B2   C2   D2
3  K3  A3  B3  NaN  NaN

  key    A    B   C   D
0  K0   A0   B0  C0  D0
1  K1   A1   B1  C1  D1
2  K2   A2   B2  C2  D2
3  K4  NaN  NaN  C4  D4
总结

Pandas 中的 concat、append、merge 函数可以满足数据堆叠和合并的需求。其中,concat 函数适用于数据框的纵向和横向堆叠,append 函数适用于数据框的纵向堆叠,merge 函数适用于数据框的列合并。