0

0

Pandas GroupBy聚合:自定义函数实现nth行为与NaN处理

霞舞

霞舞

发布时间:2025-10-23 11:54:11

|

524人浏览过

|

来源于php中文网

原创

Pandas GroupBy聚合:自定义函数实现nth行为与NaN处理

本教程探讨了在pandas groupby聚合操作中,如何实现类似`nth(0)`的功能,尤其是在需要保留nan值时。由于pandas `agg`函数不直接支持字符串形式的`'nth(0)'`,且内置的`'first'`会跳过nan,文章将介绍使用lambda表达式、命名函数以及函数工厂三种自定义函数方法,以灵活地在分组聚合中获取指定位置的元素,并提供代码示例及详细解释。

理解问题:Pandas GroupBy聚合的挑战

在数据分析中,Pandas的groupby()结合agg()函数是进行分组聚合的强大工具。我们经常需要对分组后的数据执行多种聚合操作,例如计算均值、求和等。然而,当需要获取每个分组的第N个元素(特别是第一个元素,包括NaN值)时,会遇到一些挑战。

考虑以下DataFrame:

import pandas as pd
import numpy as np

df = pd.DataFrame({
    'a' : [1,1,1,1],
    'b' : [1,2,3,4],
    'c' : [np.nan,6,7,8],
})
print("原始DataFrame:")
print(df)

我们希望对列'b'计算均值,同时对列'c'获取每个分组的第一个元素,即使它是NaN。

直接尝试使用字符串'nth(0)'作为聚合函数会引发AttributeError:

# 错误示例
# try:
#     r = df.groupby('a').agg({
#         'b' : 'mean',
#         'c' : 'nth(0)',
#     })
# except AttributeError as e:
#     print(f"\n捕获到错误: {e}")

这是因为agg函数中,字符串形式的聚合函数通常是Pandas预定义的,如'mean', 'sum', 'first'等,而'nth(0)'并不是一个被识别的字符串别名。

此外,如果使用Pandas内置的'first'聚合函数,它会返回分组中的第一个非NaN值。这不符合我们“包含NaN”的需求:

# 使用 'first' 的结果 (会跳过NaN)
r_first = df.groupby('a').agg({
    'b' : 'mean',
    'c' : 'first',
})
print("\n使用 'first' 的结果 (会跳过NaN):")
print(r_first)
# 预期 c 列为 NaN,但这里会是 6.0

因此,我们需要一种自定义的方法来精确地获取分组中的第N个元素,并保留其原始值,包括NaN。

解决方案一:使用Lambda表达式

最直接且简洁的方法是使用Python的lambda表达式。lambda函数可以在agg中作为匿名函数直接传递,它会接收每个分组的Series作为输入。通过Series的.iloc[0]属性,我们可以轻松获取到第一个元素,无论其值是否为NaN。

r_lambda = df.groupby('a').agg({
    'b' : 'mean',
    'c' : lambda s: s.iloc[0],
})
print("\n使用Lambda表达式的结果:")
print(r_lambda)

解释:

  • lambda s: s.iloc[0]定义了一个匿名函数。
  • 当agg对列'c'应用此函数时,s会是每个分组中'c'列对应的Series。
  • s.iloc[0]则安全地获取了该Series的第一个元素(索引为0),包括NaN值。

优点: 简洁,适用于一次性或简单的自定义聚合逻辑。 缺点: 对于更复杂的逻辑,可读性会下降;无法直接复用,每次都需要重新定义。

解决方案二:定义命名函数

当自定义聚合逻辑需要更高的可读性或希望在多个地方复用时,定义一个普通的命名函数是更好的选择。这个函数同样接收一个Series作为输入,并返回聚合结果。

千问APP
千问APP

阿里最强大模型官方AI助手

下载
def get_nth_element(series, index=0):
    """
    获取Series中指定索引位置的元素。
    """
    return series.iloc[index]

r_named_func = df.groupby('a').agg({
    'b' : 'mean',
    'c' : get_nth_element, # 直接传递函数名
})
print("\n使用命名函数的结果:")
print(r_named_func)

解释:

  • get_nth_element函数被定义为接收一个series和一个可选的index参数。
  • 在agg中,我们直接传递get_nth_element函数名。Pandas在内部调用时,会将每个分组的Series作为第一个参数传递给它。
  • 由于我们希望获取第一个元素,index的默认值0正好符合需求。如果需要获取其他位置的元素,可以修改函数定义或使用functools.partial。

优点: 代码可读性强,易于理解和维护;函数可以被复用。 缺点: 如果需要获取不同位置的元素(例如,对不同列获取第0个和第1个),需要为每个位置定义不同的函数,或者结合functools.partial。

解决方案三:使用函数工厂(Function Factory)

函数工厂是一种更高级的模式,它是一个返回另一个函数的函数。这种模式在需要根据不同参数生成不同行为的聚合函数时非常有用,提供了极大的灵活性和代码复用性。

def nth_element_factory(index):
    """
    创建一个返回指定索引位置元素的聚合函数。
    """
    def get_element_at_index(series):
        return series.iloc[index]
    return get_element_at_index

r_factory = df.groupby('a').agg({
    'b' : 'mean',
    'c' : nth_element_factory(0), # 调用工厂函数生成聚合函数
})
print("\n使用函数工厂的结果:")
print(r_factory)

解释:

  • nth_element_factory(index)是一个外部函数,它接收我们希望获取的索引index。
  • 它内部定义并返回了一个名为get_element_at_index的闭包函数。这个闭包函数“记住”了外部函数的index参数。
  • 在agg中,我们调用nth_element_factory(0),它会返回一个专门用于获取第0个元素的聚合函数,然后agg会使用这个返回的函数进行聚合。

优点:

  • 极高的灵活性和复用性,可以根据需要生成各种行为的聚合函数。
  • 代码结构清晰,易于管理复杂的聚合逻辑。
  • 尤其适用于需要为不同列或在不同场景下获取不同nth位置的情况。

结果验证与总结

所有上述三种方法都能够正确地实现我们的目标:对列'b'计算均值,并对列'c'获取第一个元素,包括NaN值。最终输出结果应如下:

     b    c
a          
1  2.5  nan

这表明,当Pandas内置的聚合函数无法满足特定需求时,自定义函数是解决此类问题的关键。

注意事项:

  • 性能考量: 对于非常大的数据集,自定义Python函数通常会比Pandas高度优化的内置聚合函数(如'mean', 'sum')慢。这是因为自定义函数在Python层面执行,而内置函数则在C语言层面执行。在性能敏感的场景下,应权衡灵活性与效率。
  • 索引的重要性: iloc是基于整数位置的索引,它始终能获取到指定位置的元素。如果使用loc,则需要确保索引是连续且基于位置的,否则可能会出错。
  • 多列聚合: 无论是lambda、命名函数还是函数工厂,都可以与其他标准聚合函数一起在agg中组合使用,实现复杂的多列多类型聚合。

通过掌握这些自定义聚合函数的方法,您将能够更灵活地处理Pandas GroupBy操作中的各种复杂需求,从而更高效地进行数据分析和转换。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

760

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

639

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

762

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

619

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1285

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

549

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

579

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

709

2023.08.11

PHP WebSocket 实时通信开发
PHP WebSocket 实时通信开发

本专题系统讲解 PHP 在实时通信与长连接场景中的应用实践,涵盖 WebSocket 协议原理、服务端连接管理、消息推送机制、心跳检测、断线重连以及与前端的实时交互实现。通过聊天系统、实时通知等案例,帮助开发者掌握 使用 PHP 构建实时通信与推送服务的完整开发流程,适用于即时消息与高互动性应用场景。

3

2026.01.19

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 4.8万人学习

Django 教程
Django 教程

共28课时 | 3.2万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号