0

0

如何动态定位 CSV 文件中数据起始行并用 Pandas 正确读取

碧海醫心

碧海醫心

发布时间:2026-02-05 13:46:08

|

771人浏览过

|

来源于php中文网

原创

如何动态定位 CSV 文件中数据起始行并用 Pandas 正确读取

本文介绍一种高效、无需预扫描文件的 python 方法:通过逐行遍历 csv 文件流,精准定位以特定列名(如 `[deal type]`)开头的首行,并将后续内容交由 pandas.read_csv 直接解析,避免重复读取或硬编码跳过行数。

在日常数据处理中,我们常遇到结构不规范的 CSV 文件——真正有效的表格数据并非从第一行开始,且头部“噪声”行数每日变动。例如,某日 CSV 文件前 15 行可能是报告标题、元信息、空行或分隔符,而实际数据表头始终以 [Deal Type] 开头(该字符串位于首列,且带方括号)。此时,skiprows=12 这类静态参数会失效,而先 open().readlines() 全量加载再找索引又浪费内存(尤其大文件)。

推荐做法是利用文件对象的迭代特性与 pandas 的流式兼容能力:打开文件后,逐行读取直至命中目标表头行;此时文件指针已自动停留在该行之后,直接将该文件对象传给 pd.read_csv() 即可——pandas 会从当前指针位置开始解析,天然支持“跳过前导段落”。

以下是完整可运行示例(使用 io.StringIO 模拟文件,生产环境替换为真实路径):

import pandas as pd
import io

# 示例数据(模拟真实CSV文件内容)
raw_content = """Counterparty Name
ID Number

.
.

Asset
USD.HO
USD.LCO
USD.RB

Cpty:
Product:

[Deal Type],[Amount],[Currency]
D001,125000.00,USD
D002,87600.50,EUR
"""

# 关键逻辑:定位表头行并移交文件流给pandas
with io.StringIO(raw_content) as f:
    # 逐行扫描,找到以'[Deal Type]'开头的行(注意:需匹配完整前缀)
    for line in f:
        if line.strip().startswith('[Deal Type]'):
            break
    # 此时f的指针已在表头行之后,read_csv自动从此处读取
    df = pd.read_csv(f, skipinitialspace=True)  # skipinitialspace处理空格分隔符干扰

print(df)

输出:

拍我AI
拍我AI

AI视频生成平台PixVerse的国内版本

下载
  Deal Type   Amount Currency
0      D001  125000.00      USD
1      D002   87600.50      EUR

⚠️ 注意事项

  • line.strip().startswith('[Deal Type]') 确保忽略行首尾空白,增强鲁棒性;若表头含空格(如 "[Deal Type] "),此写法仍有效。
  • 若实际表头无方括号(如纯文本 Deal Type),请同步修改匹配字符串。
  • pd.read_csv() 的 sep 参数需根据真实分隔符调整(默认逗号,若为制表符则设 sep='\t')。
  • 对于超大文件,此方法内存友好——仅缓冲当前行,无需加载全文。

总结:该方案以最小开销实现动态起始定位,核心在于理解 Python 文件对象的迭代器行为与 pandas 对文件流的原生支持。它规避了 skiprows 的硬编码缺陷,也优于“两次读取”(先找行号再重读)的低效模式,是处理非标准 CSV 的工业级实践。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

72

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

3

2026.01.31

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

381

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

213

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1507

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

630

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

758

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

710

2024.04.29

java连接字符串方法汇总
java连接字符串方法汇总

本专题整合了java连接字符串教程合集,阅读专题下面的文章了解更多详细操作。

4

2026.02.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 3.9万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号