0

0

如何在 Pandas 中安全比较含 NaN 的日期列并获取每组最大有效日期

花韻仙語

花韻仙語

发布时间:2026-02-03 08:38:21

|

644人浏览过

|

来源于php中文网

原创

如何在 Pandas 中安全比较含 NaN 的日期列并获取每组最大有效日期

本文介绍如何在存在缺失值(nan)的情况下,对多个日期列进行跨列比较,按分组筛选出满足“日期必须不小于基准日期”条件的最大有效日期,并统一格式化输出

在实际数据处理中,常需校验业务逻辑约束,例如:cop_date 和 fat_date 均应 ≥ date;若不满足,则视为无效值(置为 NaT),再按分组(如 id + ins_id)取各列中满足条件的最大有效日期(即:同组内所有合法 cop_date 中的最大值,填充到该组全部行;fat_date 同理)。关键在于:既要正确识别并屏蔽非法日期,又要保留组内有效值的聚合能力,同时妥善处理 NaN/NaT。

以下是完整、健壮的实现步骤:

✅ 步骤 1:统一转换为 datetime 类型

确保所有日期列解析为 datetime64[ns],便于后续比较和运算。推荐显式指定格式以提升鲁棒性(尤其当数据含不规范字符串时):

dates = ['date', 'cop_date', 'fat_date']
df[dates] = df[dates].apply(lambda x: pd.to_datetime(x, format='%d/%m/%Y', errors='coerce'))
⚠️ 注意:errors='coerce' 可将无法解析的值自动转为 NaT,避免报错。

✅ 步骤 2:标记并过滤非法日期

构造布尔掩码,仅保留 cop_date >= date 和 fat_date >= date 的记录;不满足者设为 NaT:

m1 = df['cop_date'] >= df['date']   # 注意:题目原文用 lt(小于),但业务逻辑要求“应大于等于”,故此处修正为 ge
m2 = df['fat_date'] >= df['date']

# 使用 .where() 保留合法值,非法值转为 NaT
df['cop_date'] = df['cop_date'].where(m1)
df['fat_date'] = df['fat_date'].where(m2)

✅ 步骤 3:按组填充最大合法日期

利用 groupby(...).transform('max') 对每组内非空日期取最大值,并广播回原 DataFrame:

Memories.ai
Memories.ai

专注于视频解析的AI视觉记忆模型

下载
group_cols = ['id', 'ins_id']
df['cop_date'] = df.groupby(group_cols)['cop_date'].transform('max')
df['fat_date'] = df.groupby(group_cols)['fat_date'].transform('max')

✅ 优势:transform('max') 自动忽略 NaT,仅基于有效日期计算最大值;若整组无合法日期,则结果仍为 NaT,语义清晰。

✅ 步骤 4:格式化回原始字符串(可选)

如需输出为 'DD/MM/YYYY' 字符串格式:

df[dates] = df[dates].apply(lambda x: x.dt.strftime('%d/%m/%Y') if pd.api.types.is_datetime64_any_dtype(x) else x)

? 完整整合代码(推荐写法)

import pandas as pd

# 1. 转 datetime(容错解析)
dates = ['date', 'cop_date', 'fat_date']
df[dates] = df[dates].apply(lambda x: pd.to_datetime(x, format='%d/%m/%Y', errors='coerce'))

# 2. 筛选合法日期:>= date
df['cop_date'] = df['cop_date'].where(df['cop_date'] >= df['date'])
df['fat_date'] = df['fat_date'].where(df['fat_date'] >= df['date'])

# 3. 按组填充最大合法日期
group_cols = ['id', 'ins_id']
df['cop_date'] = df.groupby(group_cols)['cop_date'].transform('max')
df['fat_date'] = df.groupby(group_cols)['fat_date'].transform('max')

# 4. 格式化输出(可选)
df[dates] = df[dates].apply(lambda x: x.dt.strftime('%d/%m/%Y') if pd.api.types.is_datetime64_any_dtype(x) else x)

? 关键注意事项

  • 逻辑一致性:题干中“date should always be greater than cop_date”表述易引发歧义;实际业务中更常见的是 cop_date 应 ≥ date(即“不得早于”),本方案按此合理语义实现。若确需反向逻辑(如强制取最小且 ≥ date 的值),只需将 'max' 替换为 'min'。
  • 性能优化:对大数据集,避免链式 .apply();优先使用向量化操作(如 where, groupby.transform)。
  • NaN vs NaT:pd.to_datetime() 将字符串 NaN 自动转为 NaT(时间缺失值),二者在比较和聚合中行为一致,无需额外处理。

通过以上四步,即可在保证数据完整性与业务约束的前提下,高效完成多日期列的条件化最大值提取与填充。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

71

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

1

2026.01.31

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

361

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

213

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1505

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

625

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

718

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

650

2024.04.29

AO3官网入口与中文阅读设置 AO3网页版使用与访问
AO3官网入口与中文阅读设置 AO3网页版使用与访问

本专题围绕 Archive of Our Own(AO3)官网入口展开,系统整理 AO3 最新可用官网地址、网页版访问方式、正确打开链接的方法,并详细讲解 AO3 中文界面设置、阅读语言切换及基础使用流程,帮助用户稳定访问 AO3 官网,高效完成中文阅读与作品浏览。

89

2026.02.02

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CSS3 教程
CSS3 教程

共18课时 | 5.1万人学习

PostgreSQL 教程
PostgreSQL 教程

共48课时 | 8.4万人学习

Django 教程
Django 教程

共28课时 | 3.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号