0

0

如何在CSV文件中动态定位数据起始行并用Pandas读取

聖光之護

聖光之護

发布时间:2026-02-05 10:53:18

|

264人浏览过

|

来源于php中文网

原创

如何在CSV文件中动态定位数据起始行并用Pandas读取

本文介绍一种高效、单次遍历的方案:通过逐行扫描csv文件,定位以“[deal type]”开头的首行作为数据头,随后直接将剩余内容交由pandas.read_csv解析,避免重复读取或硬编码跳过行数。

在实际数据处理场景中,许多每日生成的CSV文件存在“头部噪声”——前若干行包含元信息、说明、空行或格式化分隔符,而真正结构化的表格数据(带列名)往往从某一行动态出现。当该起始行位置不固定(无法用skiprows=5等静态参数),但具备明确文本特征(如本例中首列为[Deal Type])时,推荐采用流式预扫描 + 文件句柄接力的方式。

核心思路是:不加载整个文件到内存,而是打开文件后逐行迭代,一旦匹配到目标表头行(例如 line.startswith("[Deal Type]")),立即终止扫描,并将此时的文件指针位置作为数据正文起点,再将该“已定位的文件对象”直接传给 pandas.read_csv()。由于Python文件对象是可迭代且支持后续读取的,read_csv() 会自动从当前指针处开始解析,无需重开文件或二次读取。

以下为完整可运行示例(使用 io.StringIO 模拟文件,生产环境替换为真实路径):

科大讯飞-AI虚拟主播
科大讯飞-AI虚拟主播

科大讯飞推出的移动互联网智能交互平台,为开发者免费提供:涵盖语音能力增强型SDK,一站式人机智能语音交互解决方案,专业全面的移动应用分析;

下载
import pandas as pd
import io

# 示例数据(模拟真实CSV文件内容)
csv_content = """Counterparty Name
ID Number

.
.

Asset
USD.HO
USD.LCO
USD.RB

Cpty:
Product:

[Deal Type],[Amount],[Currency],[Date]
Deal_A,100000.5,USD,2024-04-01
Deal_B,75000.0,EUR,2024-04-02
"""

# 关键步骤:打开文件对象,扫描至目标行
with io.StringIO(csv_content) as f:
    # 逐行查找表头起始标记
    for line in f:
        if line.strip().startswith("[Deal Type]"):
            break
    # 此时f的指针已位于表头行之后,read_csv将从此处读取
    df = pd.read_csv(f, skiprows=0)  # skiprows=0确保不跳过已定位的表头行

print(df)

⚠️ 注意事项:

  • 必须使用 strip():原始行末含换行符\n,直接 line.startswith("[Deal Type]") 可能失败;建议统一用 line.strip().startswith(...)。
  • 列分隔符需显式指定:若CSV使用非逗号分隔(如制表符、分号),务必传入 sep='\t' 或 sep=';' 参数。
  • 处理真实文件时:将 io.StringIO(csv_content) 替换为 open("your_file.csv", "r", encoding="utf-8"),并添加 try/finally 或 with 确保文件关闭。
  • 兼容性增强:若表头可能含空格或方括号变体(如 "Deal Type" 无括号),可改用正则匹配:re.search(r'^\s*\[?Deal Type\b', line.strip())。

该方法时间复杂度为 O(n),仅一次磁盘/内存扫描,内存占用低,且完全复用pandas原生解析能力,是处理“动态表头CSV”的轻量级最佳实践。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

73

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

3

2026.01.31

java连接字符串方法汇总
java连接字符串方法汇总

本专题整合了java连接字符串教程合集,阅读专题下面的文章了解更多详细操作。

22

2026.02.05

java中fail含义
java中fail含义

本专题整合了java中fail的含义、作用相关内容,阅读专题下面的文章了解更多详细内容。

26

2026.02.05

控制反转和依赖注入区别
控制反转和依赖注入区别

本专题整合了控制反转和依赖注入区别、解释、实现方法相关内容。阅读专题下面的文章了解更多详细教程。

17

2026.02.05

钉钉脑图插图教程合集
钉钉脑图插图教程合集

本专题整合了钉钉脑图怎么插入图片、钉钉脑图怎么用相关教程,阅读专题下面的文章了解更多详细内容。

50

2026.02.05

python截取字符串方法汇总
python截取字符串方法汇总

本专题整合了python截取字符串方法相关合集,阅读专题下面的文章了解更多详细内容。

11

2026.02.05

Java截取字符串方法合集
Java截取字符串方法合集

本专题整合了Java截取字符串方法汇总,阅读专题下面的文章了解更多详细操作教程。

1

2026.02.05

java 抽象方法
java 抽象方法

本专题整合了java抽象方法定义、作用教程等内容,阅读专题下面的文章了解更多详细内容。

3

2026.02.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号