高效批量处理csv文件：提取指定列并保留文件名对应关系
本文提供一种方法，实现批量提取同一文件夹下多个CSV文件中特定列的数据，并以原文件名对应的方式保存结果。
解决方案：
此任务可借助Python的Pandas库高效完成。 Pandas的read_csv()函数用于读取CSV文件，usecols参数指定需要提取的列，to_csv()函数则用于将结果写入新文件。为了避免空格分隔符导致列合并，建议在读取时指定sep='\s+'参数。
以下代码片段演示了该过程：
<code class="python">import pandas as pd
import os
def extract_columns(input_dir, output_dir, column_indices):
"""
批量提取CSV文件中指定列的数据。
Args:
input_dir: 输入CSV文件所在的目录。
output_dir: 输出文件的保存目录。
column_indices: 需要提取的列的索引列表 (从0开始)。
"""
for filename in os.listdir(input_dir):
if filename.endswith(".csv"):
filepath = os.path.join(input_dir, filename)
try:
df = pd.read_csv(filepath, sep='\s+', usecols=column_indices, engine='python') # 使用python引擎处理复杂的空格分隔
output_filename = os.path.join(output_dir, filename)
df.to_csv(output_filename, index=False)
print(f"已成功处理文件: {filename}")
except pd.errors.EmptyDataError:
print(f"警告: 文件 {filename} 为空，跳过。")
except pd.errors.ParserError:
print(f"错误: 文件 {filename} 解析失败，请检查文件格式。")
# 示例用法：提取第3列和第4列 (索引为2和3)
input_directory = "path/to/your/input/csv/files" # 替换为你的输入目录
output_directory = "path/to/your/output/directory" # 替换为你的输出目录
extract_columns(input_directory, output_directory, [2, 3])
</code>
代码说明:
- 代码首先导入必要的库：
pandas和os。 -
extract_columns函数接受输入目录、输出目录和列索引列表作为参数。 - 它遍历输入目录中的所有CSV文件，使用
try-except块处理可能出现的空文件或解析错误。 -
engine='python'参数可以更有效地处理包含复杂空格分隔符的CSV文件。 - 最后，它将提取后的数据写入输出目录，文件名与输入文件名保持一致。
请记住将input_directory和output_directory替换为你的实际路径。 运行此代码后，你将在输出目录中找到包含指定列数据的CSV文件，并与原始文件名一一对应。
