0

0

使用 Pandas DataFrame 根据条件迭代行并更新列值

碧海醫心

碧海醫心

发布时间:2025-09-06 17:12:16

|

939人浏览过

|

来源于php中文网

原创

使用 pandas dataframe 根据条件迭代行并更新列值

本文介绍了如何使用 Pandas DataFrame 针对特定 Issue ID,根据其变更日期对数据进行快照处理,并根据条件更新列值。通过重塑 DataFrame 结构,分组数据,并利用前向填充和后向填充策略,可以高效地实现数据的更新和快照生成,避免了低效的逐行迭代,从而提升数据处理的效率。

Pandas DataFrame 条件更新详解

在数据分析任务中,经常需要根据某些条件更新 DataFrame 中的列值。当需要基于历史变更记录,为每个 Issue ID 创建一个时间点快照时,传统的逐行迭代方法效率较低。本文将介绍一种更高效的方法,利用 Pandas 的 pivot_table、groupby、ffill 和 bfill 函数,避免显式循环,从而提高数据处理速度。

数据准备

首先,我们需要将数据加载到 Pandas DataFrame 中。假设我们已经有了一个名为 df 的 DataFrame,其结构如下:

import pandas as pd

data = {'Issue_Id': [101, 101, 101, 101, 101, 101, 101, 102, 102, 102, 102, 102],
        'Due_Date': ['1/31/2023', '1/31/2023', '1/31/2023', '1/31/2023', '1/31/2023', '1/31/2023', '1/31/2023', '2/28/2023', '2/28/2023', '2/28/2023', '2/28/2023', '2/28/2023'],
        'status': ['closed', 'closed', 'closed', 'closed', 'closed', 'closed', 'closed', 'closed', 'closed', 'closed', 'closed', 'closed'],
        'estimation_hour': [40, 40, 40, 40, 40, 40, 40, 50, 50, 50, 50, 50],
        'changed_date': ['1/10/2023', '1/15/2023', '1/16/2023', '1/16/2023', '1/20/2023', '1/25/2023', '1/30/2023', '1/10/2023', '1/15/2023', '1/20/2023', '1/25/2023', '1/30/2023'],
        'changed_parameter': ['status', 'estimation_hour', 'estimation_hour', 'Due_Date', 'status', 'estimation_hour', 'status', 'status', 'estimation_hour', 'status', 'estimation_hour', 'status'],
        'old_value': ['Defined', '0', '20', '1/20/2023', 'Accepted', '30', 'InProgress', 'Defined', '0', 'Accepted', '30', 'InProgress'],
        'new_value': ['Accepted', '20', '30', '1/31/2023', 'InProgress', '40', 'Closed', 'Accepted', '30', 'InProgress', '50', 'Closed']}

df = pd.DataFrame(data)

实现步骤

以下是实现目标结果的具体步骤:

  1. 数据透视 (Pivot):使用 pivot_table 函数将 changed_parameter 转换为列,并将 old_value 和 new_value 作为值。

    upd_values = (df.pivot_table(index=df.index, columns='changed_parameter',
                                 values=['old_value', 'new_value'], aggfunc='first'))
  2. 按 Issue_Id 分组 (Groupby):使用 groupby 函数按 Issue_Id 对数据进行分组。

    upd_values = upd_values.groupby(df['Issue_Id'])
  3. 值更新函数 (Update Values Function):定义一个函数,使用 ffill (前向填充) 和 bfill (后向填充) 来更新 new_value 列,并处理缺失值。

    def update_values(df):
        return df['new_value'].ffill().fillna(df['old_value'].bfill())
    
    upd_values = upd_values.apply(update_values)
  4. 移除层级 (Drop Level):移除 Issue_Id 的层级。

    Cursor
    Cursor

    一个新的IDE,使用AI来帮助您重构、理解、调试和编写代码。

    下载
    upd_values = upd_values.droplevel('Issue_Id')
  5. 填充缺失值 (Fill NaNs):使用原始 DataFrame 的值填充缺失值。

    upd_values = upd_values.fillna(df)
  6. 更新 DataFrame (Update DataFrame):将更新后的值赋回原始 DataFrame。

    df[upd_values.columns] = upd_values

完整代码

将以上步骤整合,得到完整的代码如下:

import pandas as pd

def update_values(df):
    return df['new_value'].ffill().fillna(df['old_value'].bfill())

upd_values = (df.pivot_table(index=df.index, columns='changed_parameter',
                             values=['old_value', 'new_value'], aggfunc='first')
                .groupby(df['Issue_Id']).apply(update_values)
                .droplevel('Issue_Id').fillna(df))

df[upd_values.columns] = upd_values

代码解释

  • pivot_table:将长格式的数据转换为宽格式,方便后续按列进行填充操作。
  • groupby:将相同 Issue_Id 的数据聚合在一起,保证填充操作在每个 Issue ID 内部进行。
  • ffill:沿着列的方向,用前一个有效值填充缺失值。这保证了在每次变更后,后续的行都会使用最新的值。
  • bfill:沿着列的方向,用后一个有效值填充缺失值。用于初始状态的填充。
  • fillna(df):用原始 DataFrame 的值填充剩余的缺失值,确保所有单元格都有值。

结果展示

运行以上代码后,DataFrame df 将被更新为目标状态,展示了每个 Issue ID 在每次变更日期时的快照。

总结与注意事项

通过使用 pivot_table、groupby、ffill 和 bfill 函数,我们避免了低效的逐行迭代,从而实现了高效的 DataFrame 条件更新。这种方法不仅提高了代码的执行效率,还使代码更加简洁易懂。

注意事项:

  • 确保数据已按照 changed_date 排序,以保证 ffill 和 bfill 的正确性。
  • 理解 pivot_table 的作用,它是将数据从长格式转换为宽格式的关键步骤。
  • 根据实际情况调整 fillna 的参数,以满足不同的数据处理需求。

通过本文的学习,读者可以掌握一种高效的 Pandas DataFrame 条件更新方法,并将其应用到实际的数据分析任务中。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

69

2025.12.04

function是什么
function是什么

function是函数的意思,是一段具有特定功能的可重复使用的代码块,是程序的基本组成单元之一,可以接受输入参数,执行特定的操作,并返回结果。本专题为大家提供function是什么的相关的文章、下载、课程内容,供大家免费下载体验。

484

2023.08.04

js函数function用法
js函数function用法

js函数function用法有:1、声明函数;2、调用函数;3、函数参数;4、函数返回值;5、匿名函数;6、函数作为参数;7、函数作用域;8、递归函数。本专题提供js函数function用法的相关文章内容,大家可以免费阅读。

163

2023.10.07

C++ 设计模式与软件架构
C++ 设计模式与软件架构

本专题深入讲解 C++ 中的常见设计模式与架构优化,包括单例模式、工厂模式、观察者模式、策略模式、命令模式等,结合实际案例展示如何在 C++ 项目中应用这些模式提升代码可维护性与扩展性。通过案例分析,帮助开发者掌握 如何运用设计模式构建高质量的软件架构,提升系统的灵活性与可扩展性。

4

2026.01.30

c++ 字符串格式化
c++ 字符串格式化

本专题整合了c++字符串格式化用法、输出技巧、实践等等内容,阅读专题下面的文章了解更多详细内容。

2

2026.01.30

java 字符串格式化
java 字符串格式化

本专题整合了java如何进行字符串格式化相关教程、使用解析、方法详解等等内容。阅读专题下面的文章了解更多详细教程。

1

2026.01.30

python 字符串格式化
python 字符串格式化

本专题整合了python字符串格式化教程、实践、方法、进阶等等相关内容,阅读专题下面的文章了解更多详细操作。

1

2026.01.30

java入门学习合集
java入门学习合集

本专题整合了java入门学习指南、初学者项目实战、入门到精通等等内容,阅读专题下面的文章了解更多详细学习方法。

20

2026.01.29

java配置环境变量教程合集
java配置环境变量教程合集

本专题整合了java配置环境变量设置、步骤、安装jdk、避免冲突等等相关内容,阅读专题下面的文章了解更多详细操作。

16

2026.01.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Java 教程
Java 教程

共578课时 | 53.3万人学习

国外Web开发全栈课程全集
国外Web开发全栈课程全集

共12课时 | 1.0万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号