如何使用 Python 中的 Pandas 按特定列合并两个 csv 文件?
CSV(逗号分隔值)文件广泛用于以简单格式存储和交换数据。在许多数据处理任务中，需要根据特定列合并两个或多个 CSV 文件。幸运的是，这可以使用 Python 中的 Pandas 库轻松实现。
在本文中，我们将学习如何使用 Python 中的 Pandas 按特定列合并两个 CSV 文件。
什么是 Pandas 库?
Pandas 是一个用于 Python 中信息控制和检查的开源库。它提供了处理结构化数据(例如表格、时间序列和多维数据)的工具，以及高性能数据结构。 Pandas 广泛应用于金融、数据科学、机器学习和其他需要数据处理的领域。
在 Python 中按特定列合并两个 CSV 文件的步骤
以下是使用 Pandas 库在 Python 中按特定列合并两个 CSV 文件的完整步骤 -
步骤 1:导入 Pandas 库
合并两个 CSV 文件的第一步是导入 pandas 库。Pandas 是一个功能强大的 Python 数据分析库。它提供了用于高效存储和操作大型数据集的数据结构。要使用 Pandas，我们首先需要将其导入我们的 Python 程序中。我们可以使用以下命令执行此操作 -
import pandas as pd
第 2 步:读取 CSV 文件
下一步是读取要合并的两个 CSV 文件。我们可以使用 Pandas 的 read_csv() 函数将 CSV 文件读入 Pandas DataFrame。我们需要将 CSV 文件的文件路径或 URL 作为参数提供给 read_csv() 函数。例如 −
df1 = pd.read_csv('file1.csv')
df2 = pd.read_csv('file2.csv')
步骤 3:合并 CSV 文件
将 CSV 文件读入 Pandas DataFrames 后，现在是时候使用 merge() 函数根据特定列合并它们了。merge() 函数将两个 DataFrames 作为输入，并根据一个公共列合并它们。以下是基本语法 −
merged_df = pd.merge(df1, df2, on='column_name')
在此示例中，merged_df 是包含来自 df1 和 df2 的合并数据的新 DataFrame。on 参数指定两个 DataFrame 合并的公共列的名称。
例如，假设我们有两个 CSV 文件 sales.csv 和 customers.csv。两个文件都包含一个名为 CustomerID 的列。我们希望根据 CustomerID 列合并这两个文件。以下是我们可以做到的方法 -
sales = pd.read_csv('sales.csv')
customers = pd.read_csv('customers.csv')
merged_df = pd.merge(sales, customers, on='CustomerID')
步骤 4:处理缺失值(如果有)
根据特定列合并两个 CSV 文件时，合并后的 DataFrame 中可能会有缺失值。如果其中一个 CSV 文件的相应列中没有匹配的值，则可能会出现这些缺失值。
要处理缺失值，我们可以使用 Pandas 的 fillna() 函数将它们替换为默认值或计算值。例如，我们可以使用以下代码将缺失值替换为字符串"Unknown"-
merged_df.fillna('Unknown', inplace=True)
在此示例中，我们使用 fillna() 函数将合并的 DataFrame 中的缺失值替换为字符串"Unknown"。我们还将 inplace 参数指定为 True，这意味着将修改原始 DataFrame，而不是创建一个新的 DataFrame。
示例 1:使用 Merge() 函数
在此示例中，我们将使用 Pandas 的 merge() 函数根据特定列合并两个 CSV 文件。
CSV 文件
假设我们有两个 CSV 文件:employees.csv 和 entities.csv。 employees.csv文件包含以下数据-
| EmployeeID | Name | DepartmentID | Salary |
|---|---|---|---|
| 1 | John | 1 | 50000 |
| 2 | Sarah | 2 | 60000 |
| 3 | David | 1 | 55000 |
| 4 | Alex | 3 | 65000 |
| 5 | Emily | 2 | 55000 |
departments.csv 文件包含以下数据 −
| DepartmentID | DepartmentName |
|---|---|
| 1 | IT |
| 2 | Sales |
| 3 | Marketing |
| 4 | HR |
示例
import pandas as pd
# 加载 CSV 文件
employees = pd.read_csv('employees.csv')
departments = pd.read_csv('departments.csv')
# 根据 DepartmentID 列合并数据框
merged_df = pd.merge(employees, entities, on='DepartmentID')
# 打印合并的数据框
print(merged_df.head())
# 将合并的数据框保存到新的 CSV 文件
merged_df.to_csv('merged_employees_departments.csv', index=False)
输出
EmployeeID Name DepartmentID Salary DepartmentName 0 1 John 1 50000 IT 1 3 David 1 55000 IT 2 2 Sarah 2 60000 Sales 3 5 Emily 2 55000 Sales 4 4 Alex 3 65000 Marketing
示例 2:使用 Join() 函数
在此示例中，我们将使用 Pandas 的 join() 方法根据特定列合并两个 CSV 文件。
CSV 文件
假设我们有两个 CSV 文件:orders.csv 和 customers.csv。orders.csv 文件包含以下数据 −
| OrderID | CustomerID | OrderDate | TotalAmount |
|---|---|---|---|
| 1 | 1 | 2022-05-01 | 100.0 |
| 2 | 3 | 2022-05-02 | 150.0 |
| 3 | 2 | 2022-05-03 | 200.0 |
| 4 | 1 | 2022-05-04 | 75.0 |
| 5 | 4 | 2022-05-05 | 120.0 |
customers.csv 文件包含以下数据 −
| CustomerID | CustomerName | |
|---|---|---|
| 1 | John | john@example.com |
| 2 | Sarah | sarah@example.com |
| 3 | David | david@example.com |
| 4 | Emily | emily@example.com |
示例
import pandas as pd
# 加载 CSV 文件
orders = pd.read_csv('orders.csv')
customers = pd.read_csv('customers.csv')
# 根据 CustomerID 列连接数据框
joined_df = orders.set_index('CustomerID').join(customers.set_index('CustomerID'))
# 打印连接的数据框
print(joined_df.head())
# 将连接的数据框保存到新的 CSV 文件
joined_df.to_csv('joined_orders_customers.csv')
输出
OrderID OrderDate TotalAmount CustomerName Email
CustomerID
1 1 2022-05-01 100.0 John john@example.com
1 4 2022-05-04 75.0 John john@example.com
2 3 2022-05-03 200.0 Sarah sarah@example.com
3 2 2022-05-02 150.0 David david@example.com
4 5 2022-05-05 120.0 Emily emily@example.com
在本例中，我们使用 Pandas 的 merge() 函数根据"id"列合并了两个 CSV 文件。合并两个 CSV 文件后得到的 DataFrame 除了包含"name_x"、"email_x"、"name_y"和"email_y"列外，还包含"id"列。
请注意，合并后的 DataFrame 中"name_y"和"email_y"段有缺失值，这些缺失值与第二个 CSV 记录中没有匹配质量的行有关。如上一步所示，可以使用 Pandas fillna() 和 dropna() 函数来处理这些缺失值。
结论
根据特定列合并两个 CSV 文件是一项常见的数据处理任务，可以使用 Python 中的 Pandas 库轻松实现。在本文中，我们学习了如何使用 Pandas 的 merge() 函数合并两个 CSV 文件。我们还讨论了如何处理缺失值以及如何将合并的 DataFrame 保存到新的 CSV 文件。
