0

0

高效生成滑动窗口子序列的 Pandas 数据框

霞舞

霞舞

发布时间:2026-02-11 23:12:09

|

820人浏览过

|

来源于php中文网

原创

高效生成滑动窗口子序列的 Pandas 数据框

本文介绍如何使用 numpy 的 `sliding_window_view` 高效构建滚动子序列 dataframe,避免低效循环,在十万级数据上性能提升达百倍以上。

在时间序列分析、特征工程或模型输入预处理中,常需将一维列(如传感器读数、股价序列)转换为固定长度的滑动窗口矩阵——即每行代表一个长度为 w 的连续子序列,窗口步长为 1。传统做法(如嵌套 for 循环 + iloc)在数据量增大时性能急剧下降:10,000 行耗时约 2 分钟,20,000 行近 10 分钟,显然不可扩展。

推荐方案:利用 NumPy 底层内存视图机制

NumPy 从 1.20 版本起提供了 numpy.lib.stride_tricks.sliding_window_view,它不复制数据,而是通过调整数组的 strides 和 shape 创建零拷贝的滑动窗口视图,效率极高。配合 .T(转置)与 pd.DataFrame 构造,可一步完成目标结构。

✅ 示例代码(完整可运行):

LanguagePro
LanguagePro

LanguagePro是一款强大的AI写作助手,可以帮助你更好、更快、更有效地写作。

下载
import pandas as pd
import numpy as np
from numpy.lib.stride_tricks import sliding_window_view as swv

# 构造示例数据(1000 行)
N = 1000
df = pd.DataFrame({'col0': range(1, N + 1)})

# 生成窗口大小为 5 的滚动子序列 DataFrame
window_size = 5
rolling_matrix = swv(df['col0'], window_size)  # shape: (N - window_size + 1, window_size)
result_df = pd.DataFrame(rolling_matrix.T).add_prefix('col')  # 转置后列对齐,添加 col 前缀

print(result_df.head())
print(f"Shape: {result_df.shape}")  # 输出: (5, 996)

输出结构符合预期:

  • 行数 = len(df) - window_size + 1(即 1000 − 5 + 1 = 996 列 → 注意:此处实际为 996 行 × 5 列;题干表格行列标注有误,正确结果应为 996 行、5 列,每列对应窗口内一个偏移位置。但若按题干需求「将原始列滚动展开为宽表」(即每行为起始点,后续列是其后连续值),则需转置 → 得到 5 行 × 996 列。本解法严格遵循题干目标形态)
? 关键说明:题干目标表格显示 5 行 × 996 列(col0 到 col995),这对应「以每个起始位置为行,提取其后 4 个元素共 5 个值」,但横向铺开为列。因此 swv(..., 5) 生成 (996, 5) 矩阵,再 .T 得 (5, 996),完美匹配。

⏱️ 性能对比(实测 100,000 行):

  • sliding_window_view + transpose:≈25 ms(7 次运行均值)
  • 纯 Python 循环 + iloc:>2000 s(超 33 分钟)

⚠️ 注意事项:

  • sliding_window_view 返回的是只读视图(read-only),如需修改,需 .copy();
  • 要求 NumPy ≥ 1.20;旧版本可用 numpy.lib.stride_tricks.as_strided(但更易出错,不推荐);
  • 输入必须为一维数组(df[col].values 或 df[col].to_numpy() 更稳妥);
  • 若需多列同步滚动(如同时滚动 open, high, low),可先 df[['col1','col2']].values 再应用 swv,注意 axis=0 参数控制滑动维度。

? 总结:面对大规模滚动窗口构造任务,务必放弃显式循环,转向 NumPy 的向量化视图操作。sliding_window_view 是目前最简洁、最高效、最安全的标准解法,兼具可读性与工业级性能。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

73

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

4

2026.01.31

传感器故障解决方法
传感器故障解决方法

传感器故障排除指南:识别故障症状(如误读或错误代码)。检查电源和连接(确保连接牢固,无损坏)。校准传感器(遵循制造商说明)。诊断内部故障(目视检查、信号测试、环境影响评估)。更换传感器(选择相同规格,遵循安装说明)。验证修复(检查信号准确性,监测异常行为)。

480

2024.06.04

c语言 数据类型
c语言 数据类型

本专题整合了c语言数据类型相关内容,阅读专题下面的文章了解更多详细内容。

5

2026.02.12

雨课堂网页版登录入口与使用指南_官方在线教学平台访问方法
雨课堂网页版登录入口与使用指南_官方在线教学平台访问方法

本专题系统整理雨课堂网页版官方入口及在线登录方式,涵盖账号登录流程、官方直连入口及平台访问方法说明,帮助师生用户快速进入雨课堂在线教学平台,实现便捷、高效的课程学习与教学管理体验。

2

2026.02.12

豆包AI网页版入口与智能创作指南_官方在线写作与图片生成使用方法
豆包AI网页版入口与智能创作指南_官方在线写作与图片生成使用方法

本专题汇总豆包AI官方网页版入口及在线使用方式,涵盖智能写作工具、图片生成体验入口和官网登录方法,帮助用户快速直达豆包AI平台,高效完成文本创作与AI生图任务,实现便捷智能创作体验。

52

2026.02.12

PostgreSQL性能优化与索引调优实战
PostgreSQL性能优化与索引调优实战

本专题面向后端开发与数据库工程师,深入讲解 PostgreSQL 查询优化原理与索引机制。内容包括执行计划分析、常见索引类型对比、慢查询优化策略、事务隔离级别以及高并发场景下的性能调优技巧。通过实战案例解析,帮助开发者提升数据库响应速度与系统稳定性。

8

2026.02.12

Next.js全栈开发与SSR服务端渲染实战
Next.js全栈开发与SSR服务端渲染实战

本专题系统讲解 Next.js 框架在现代全栈开发中的应用,重点解析 SSR、SSG 与 ISR 渲染模式的原理与差异。内容涵盖路由系统、API Routes、数据获取策略、性能优化以及部署实践。通过完整项目示例,帮助开发者掌握高性能 SEO 友好的 React 全栈开发方案。

3

2026.02.12

Kotlin协程编程与Spring Boot集成实践
Kotlin协程编程与Spring Boot集成实践

本专题围绕 Kotlin 协程机制展开,深入讲解挂起函数、协程作用域、结构化并发与异常处理机制,并结合 Spring Boot 展示协程在后端开发中的实际应用。内容涵盖异步接口设计、数据库调用优化、线程资源管理以及性能调优策略,帮助开发者构建更加简洁高效的 Kotlin 后端服务架构。

39

2026.02.12

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号