0

0

pandas 如何在 rolling().apply() 中使用 numba 加速

冷漠man

冷漠man

发布时间:2026-01-27 18:01:03

|

735人浏览过

|

来源于php中文网

原创

rolling().apply()中直接传numba函数会报错,因pandas要求函数处理一维ndarray且返回标量,而numba不兼容Series;正确做法是设raw=True、用.values提取纯数组,并确保numba函数仅处理numpy.ndarray、自行处理NaN。

pandas 如何在 rolling().apply() 中使用 numba 加速

rolling().apply() 里直接传 numba 函数会报错

因为 pandasrolling().apply() 要求传入的函数必须接受一维 ndarray(或 Series),且返回标量或同长度数组;而 numba.jit 编译后的函数默认不支持对 pandas 对象(如 Series)的直接调用,更不兼容其内部索引逻辑。常见错误是:TypingError: Failed in nopython mode...AttributeError: 'numpy.ndarray' object has no attribute 'values'

关键点:必须确保 numba 函数只处理纯 numpy.ndarray,且输入形状可控(通常是 1D)、无缺失值干扰。

正确做法:先用 numba 编译纯数组函数,再在 apply 中手动提取 .values

绕过 pandas 对象、只喂给 numba 纯 numpy.ndarray 是最稳妥的路径。注意三点:

  • numba.jit 函数需加 nopython=Truefastmath=True(若计算允许)以获得实际加速
  • rolling().apply()raw=True 参数必须设为 True,否则传入的是 Series,不是 ndarray
  • 原始数据中若有 NaNraw=True 下仍会传入 nan 值,numba 函数需自行处理(比如用 np.isnan() 过滤或提前 dropna)

示例:

import numpy as np
import pandas as pd
from numba import jit
<p>@jit(nopython=True, fastmath=True)
def my_rolling_sum(arr):</p><h1>arr 是 1D numpy.ndarray,可能含 nan</h1><pre class='brush:python;toolbar:false;'>total = 0.0
for x in arr:
    if not np.isnan(x):
        total += x
return total

s = pd.Series([1.0, 2.0, np.nan, 4.0, 5.0]) result = s.rolling(3).apply(my_rolling_sum, raw=True)

替代方案:用 numba 实现完整 rolling 逻辑(跳过 pandas apply)

当窗口计算逻辑复杂、或对性能极致敏感时,rolling().apply() 的 Python 层开销(如每次构造子数组、类型检查)反而成为瓶颈。此时更高效的方式是:

闪念贝壳
闪念贝壳

闪念贝壳是一款AI 驱动的智能语音笔记,随时随地用语音记录你的每一个想法。

下载
  • np.lib.stride_tricks.sliding_window_view(NumPy 1.20+)生成窗口视图
  • 把整个窗口数组传给 numba 函数批量处理(避免逐窗口调用)
  • 注意边界:sliding_window_view 不自动处理首尾不足窗口长度的情况,需手动 pad 或截断

示例(等效于 rolling(3).sum()):

from numpy.lib.stride_tricks import sliding_window_view
<p>@jit(nopython=True)
def batch_sum(windows):  # windows.shape == (n_windows, window_size)
out = np.empty(windows.shape[0], dtype=windows.dtype)
for i in range(windows.shape[0]):
acc = 0.0
for j in range(windows.shape[1]):
if not np.isnan(windows[i, j]):
acc += windows[i, j]
out[i] = acc
return out</p><p>arr = s.to_numpy()
windows = sliding_window_view(arr, window_shape=3)
result_arr = batch_sum(windows)  # 返回 (len-2,) 数组</p>

容易被忽略的坑:dtype 不一致和 missing value 处理

numba 对 dtype 敏感,如果输入数组是 float64,但某次 rolling 窗口因全为 NaN 导致 pandas 内部回退为 object 类型,raw=True 仍可能传入非数值数组,触发 numba 编译失败或运行时报错。

务必在调用前统一 dtype 并显式处理缺失值:

  • s.astype(np.float64) 强制数值类型
  • 避免在滚动前混用 Nonenp.nan(后者才是 numba 可识别的)
  • 若业务允许,优先用 s.fillna(0)s.dropna() 预处理,比在 numba 函数里反复判断 np.isnan 更快

真正卡住人的往往不是 numba 怎么写,而是 pandas 滚动窗口怎么把数据“干净地”塞进去 —— 这一步没控好,后面全白搭。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

81

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

34

2026.01.31

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

25

2026.03.13

Python异步编程与Asyncio高并发应用实践
Python异步编程与Asyncio高并发应用实践

本专题围绕 Python 异步编程模型展开,深入讲解 Asyncio 框架的核心原理与应用实践。内容包括事件循环机制、协程任务调度、异步 IO 处理以及并发任务管理策略。通过构建高并发网络请求与异步数据处理案例,帮助开发者掌握 Python 在高并发场景中的高效开发方法,并提升系统资源利用率与整体运行性能。

44

2026.03.12

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

177

2026.03.11

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

50

2026.03.10

Kotlin Android模块化架构与组件化开发实践
Kotlin Android模块化架构与组件化开发实践

本专题围绕 Kotlin 在 Android 应用开发中的架构实践展开,重点讲解模块化设计与组件化开发的实现思路。内容包括项目模块拆分策略、公共组件封装、依赖管理优化、路由通信机制以及大型项目的工程化管理方法。通过真实项目案例分析,帮助开发者构建结构清晰、易扩展且维护成本低的 Android 应用架构体系,提升团队协作效率与项目迭代速度。

92

2026.03.09

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

102

2026.03.06

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

227

2026.03.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号