0

0

Pandas教程:使用向量化方法按日期筛选DataFrame列值

聖光之護

聖光之護

发布时间:2025-10-21 11:42:14

|

316人浏览过

|

来源于php中文网

原创

Pandas教程:使用向量化方法按日期筛选DataFrame列值

在pandas中处理时间序列数据时,一项常见任务是根据特定的日期或日期时间条件,从dataframe中提取相应的列值,并将不符合条件的行填充为nan(not a number)。例如,你可能只想在某个特定交易日记录“事件”值,而在其他日期则标记为缺失。

初学者在尝试解决此类问题时,可能会倾向于使用for循环遍历DataFrame的行,但这种方法通常效率低下,并且容易因不当的赋值操作导致错误结果。本教程将深入探讨如何使用Pandas的向量化操作,以高效、简洁且正确的方式实现这一目标。

1. 向量化操作:使用 Series.where() (推荐)

Series.where()是Pandas中一个非常强大的方法,它允许你根据一个布尔条件选择性地保留或替换Series中的值。当条件为True时,保留原始值;当条件为False时,则替换为指定值(默认为NaN)。这是处理条件赋值任务的首选方法,因为它利用了Pandas底层的优化,效率远高于Python循环。

1.1 场景一:仅按日期匹配(忽略时间部分)

如果你的DataFrame索引包含时间信息(例如,每小时、每分钟),但你只想根据日期进行匹配(即,某天的所有时间点都符合条件),可以使用DatetimeIndex.normalize()方法。normalize()会将所有日期时间戳规范化为当天的午夜(00:00:00),从而方便进行日期层面的比较。

示例代码:

import pandas as pd
import numpy as np

# 创建一个带有时间组件的示例DataFrame
rng_with_time = pd.date_range('2000-03-19', periods=10, freq='9H')
df_with_time = pd.DataFrame({'close': range(10)}, index=rng_with_time)

print("原始DataFrame (带时间组件):")
print(df_with_time)
print("-" * 30)

# 使用 Series.where() 和 normalize() 提取特定日期的 'close' 值
# 目标日期为 '2000-03-20'
df_with_time['event'] = df_with_time['close'].where(
    df_with_time.index.normalize() == pd.Timestamp('2000-03-20')
)

print("\n使用 normalize() 提取 '2000-03-20' 的 'event' 列:")
print(df_with_time)

输出:

原始DataFrame (带时间组件):
                     close
2000-03-19 00:00:00      0
2000-03-19 09:00:00      1
2000-03-19 18:00:00      2
2000-03-20 03:00:00      3
2000-03-20 12:00:00      4
2000-03-20 21:00:00      5
2000-03-21 06:00:00      6
2000-03-21 15:00:00      7
2000-03-22 00:00:00      8
2000-03-22 09:00:00      9
------------------------------

使用 normalize() 提取 '2000-03-20' 的 'event' 列:
                     close  event
2000-03-19 00:00:00      0    NaN
2000-03-19 09:00:00      1    NaN
2000-03-19 18:00:00      2    NaN
2000-03-20 03:00:00      3    3.0
2000-03-20 12:00:00      4    4.0
2000-03-20 21:00:00      5    5.0
2000-03-21 06:00:00      6    NaN
2000-03-21 15:00:00      7    NaN
2000-03-22 00:00:00      8    NaN
2000-03-22 09:00:00      9    NaN

1.2 场景二:精确按日期时间匹配

如果你的DataFrame索引没有时间组件(例如,每日数据),或者你需要精确匹配到特定的日期和时间点,可以直接将DataFrame索引与目标pd.Timestamp对象或日期时间字符串进行比较。

示例代码:

import pandas as pd
import numpy as np

# 创建一个不带时间组件的示例DataFrame (每日数据)
rng_daily = pd.date_range('2000-03-19', periods=10)
df_daily = pd.DataFrame({'close': range(10)}, index=rng_daily)

print("原始DataFrame (每日数据):")
print(df_daily)
print("-" * 30)

# 使用 Series.where() 精确匹配 '2000-03-20 00:00:00'
df_daily['event'] = df_daily['close'].where(
    df_daily.index == pd.Timestamp('2000-03-20 00:00:00')
)

print("\n使用 Series.where() 精确匹配 '2000-03-20' 的 'event' 列:")
print(df_daily)

输出:

原始DataFrame (每日数据):
            close
2000-03-19      0
2000-03-20      1
2000-03-21      2
2000-03-22      3
2000-03-23      4
2000-03-24      5
2000-03-25      6
2000-03-26      7
2000-03-27      8
2000-03-28      9
------------------------------

使用 Series.where() 精确匹配 '2000-03-20' 的 'event' 列:
            close  event
2000-03-19      0    NaN
2000-03-20      1    1.0
2000-03-21      2    NaN
2000-03-22      3    NaN
2000-03-23      4    NaN
2000-03-24      5    NaN
2000-03-25      6    NaN
2000-03-26      7    NaN
2000-03-27      8    NaN
2000-03-28      9    NaN

2. 使用部分字符串索引 (Partial String Indexing)

Pandas的DatetimeIndex支持强大的部分字符串索引功能。这意味着你可以使用日期字符串(例如'YYYY-MM-DD')直接选择该日期内的所有行。结合loc方法,这提供了一种简洁的方式来更新或赋值特定日期的列值。

元典智库
元典智库

元典智库:智能开放的法律搜索引擎

下载

要实现“仅在特定日期有值,其他日期为NaN”的效果,可以先将目标列初始化为NaN,然后使用部分字符串索引对特定日期进行赋值。

示例代码:

import pandas as pd
import numpy as np

# 使用带有时间组件的DataFrame
rng_with_time = pd.date_range('2000-03-19', periods=10, freq='9H')
df_with_time_psi = pd.DataFrame({'close': range(10)}, index=rng_with_time)

print("原始DataFrame (用于部分字符串索引):")
print(df_with_time_psi)
print("-" * 30)

# 初始化 'event' 列为 NaN
df_with_time_psi['event'] = np.nan

# 使用部分字符串索引将 '2000-03-20' 的 'close' 值赋给 'event' 列
df_with_time_psi.loc['2000-03-20', 'event'] = df_with_time_psi['close']

print("\n使用部分字符串索引提取 '2000-03-20' 的 'event' 列:")
print(df_with_time_psi)

输出:

原始DataFrame (用于部分字符串索引):
                     close
2000-03-19 00:00:00      0
2000-03-19 09:00:00      1
2000-03-19 18:00:00      2
2000-03-20 03:00:00      3
2000-03-20 12:00:00      4
2000-03-20 21:00:00      5
2000-03-21 06:00:00      6
2000-03-21 15:00:00      7
2000-03-22 00:00:00      8
2000-03-22 09:00:00      9
------------------------------

使用部分字符串索引提取 '2000-03-20' 的 'event' 列:
                     close  event
2000-03-19 00:00:00      0    NaN
2000-03-19 09:00:00      1    NaN
2000-03-19 18:00:00      2    NaN
2000-03-20 03:00:00      3    3.0
2000-03-20 12:00:00      4    4.0
2000-03-20 21:00:00      5    5.0
2000-03-21 06:00:00      6    NaN
2000-03-21 15:00:00      7    NaN
2000-03-22 00:00:00      8    NaN
2000-03-22 09:00:00      9    NaN

3. 修正 iterrows 循环(不推荐)

虽然iterrows循环在某些复杂场景下可能有用,但它通常不是处理DataFrame的推荐方式,尤其是在需要更新DataFrame时。原始问题中遇到的错误就是df['event'] = row['close']在每次循环中都会尝试将整个event列赋值为当前行的close值,而不是只更新当前行。这导致最终event列被最后一次迭代的值(或NaN)覆盖。

要正确地在循环中更新DataFrame,必须使用df.loc或df.iloc进行基于标签或整数位置的赋值。

修正后的 iterrows 循环示例:

import pandas as pd
import numpy as np

# 使用带有时间组件的DataFrame
rng_with_time_loop = pd.date_range('2000-03-19', periods=10, freq='9H')
df_with_time_loop = pd.DataFrame({'close': range(10)}, index=rng_with_time_loop)

print("原始DataFrame (用于修正循环):")
print(df_with_time_loop)
print("-" * 30)

# 初始化 'event' 列为 NaN,这是在循环前应该做的
df_with_time_loop['event'] = np.nan

# 修正后的 iterrows 循环,按日期匹配
for index, row in df_with_time_loop.iterrows():
    # 使用 normalize() 仅比较日期部分
    if index.normalize() == pd.Timestamp('2000-03-20 00:00:00'):
        df_with_time_loop.loc[index, 'event'] = row['close']
    else:
        df_with_time_loop.loc[index, 'event'] = np.nan # 明确设置为 NaN,虽然已经初始化

print("\n修正后的 iterrows 循环 (按日期匹配):")
print(df_with_time_loop)

# ----------------------------------------------------

# 使用不带时间组件的DataFrame (每日数据)
rng_daily_loop = pd.date_range('2000-03-19', periods=10)
df_daily_loop = pd.DataFrame({'close': range(10)}, index=rng_daily_loop)

print("\n" + "=" * 30)
print("原始DataFrame (每日数据,用于修正循环):")
print(df_daily_loop)
print("-" * 30)

df_daily_loop['event'] = np.nan

# 修正后的 iterrows 循环,精确按日期时间匹配
for index, row in df_daily_loop.iterrows():
    # 精确匹配日期时间
    if index == pd.Timestamp('2000-03-20 00:00:00'):
        df_daily_loop.loc[index, 'event'] = row['close']
    else:
        df_daily_loop.loc[index, 'event'] = np.nan

print("\n修正后的 iterrows 循环 (精确按日期时间匹配):")
print(df_daily_loop)

输出:

原始DataFrame (用于修正循环):
                     close
2000-03-19 00:00:00      0
2000-03-19 09:00:00      1
2000-03-19 18:00:00      2
2000-03-20 03:00:00      

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

71

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

1

2026.01.31

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

483

2023.08.02

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

340

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

212

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1503

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

625

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

655

2024.03.22

2026赚钱平台入口大全
2026赚钱平台入口大全

2026年最新赚钱平台入口汇总,涵盖任务众包、内容创作、电商运营、技能变现等多类正规渠道,助你轻松开启副业增收之路。阅读专题下面的文章了解更多详细内容。

54

2026.01.31

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 3.7万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号