高效批量处理：提取指定列并保留文件名对应关系
本文提供一种方法，实现批量提取同一文件夹下多个CSV文件中特定列的数据，并以原文件名对应的方式保存结果。
解决方案：
此任务可借助Python的Pandas库高效完成。 Pandas的read_csv()函数用于读取CSV文件，usecols参数指定需要提取的列，to_csv()函数则用于将结果写入新文件。为了避免空格分隔符导致列合并，建议在读取时指定sep=’s+’参数。
以下代码片段演示了该过程：
import pandas as pd import os def extract_columns(input_dir, output_dir, column_indices): """ 批量提取CSV文件中指定列的数据。 Args: input_dir: 输入CSV文件所在的目录。 output_dir: 输出文件的保存目录。 column_indices: 需要提取的列的索引列表 (从0开始)。 """ for filename in os.listdir(input_dir): if filename.endswith(".csv"): filepath = os.path.join(input_dir, filename) try: df = pd.read_csv(filepath, sep='s+', usecols=column_indices, engine='python') # 使用python引擎处理复杂的空格分隔 output_filename = os.path.join(output_dir, filename) df.to_csv(output_filename, index=False) print(f"已成功处理文件: {filename}") except pd.errors.EmptyDataError: print(f"警告: 文件 {filename} 为空，跳过。") except pd.errors.ParserError: print(f"错误: 文件 {filename} 解析失败，请检查文件格式。") # 示例用法：提取第3列和第4列 (索引为2和3) input_directory = "path/to/your/input/csv/files" # 替换为你的输入目录 output_directory = "path/to/your/output/directory" # 替换为你的输出目录 extract_columns(input_directory, output_directory, [2, 3])
登录后复制
代码说明:
- 代码首先导入必要的库：pandas和os。
- extract_columns函数接受输入目录、输出目录和列索引列表作为参数。
- 它遍历输入目录中的所有CSV文件，使用try-except块处理可能出现的空文件或解析错误。
- engine=”参数可以更有效地处理包含复杂空格分隔符的CSV文件。
- 最后，它将提取后的数据写入输出目录，文件名与输入文件名保持一致。
请记住将input_directory和output_directory替换为你的实际路径。 运行此代码后，你将在输出目录中找到包含指定列数据的CSV文件，并与原始文件名一一对应。
以上就是如何批量提取多个CSV文件中特定列的数据并保持文件名对应？的详细内容，更多请关注php中文网其它相关文章！
微信扫一扫打赏
支付宝扫一扫打赏
