0

0

Pandas:跨数据集复用分位数分箱规则对新数据进行分组标注

碧海醫心

碧海醫心

发布时间:2026-01-21 16:52:05

|

550人浏览过

|

来源于php中文网

原创

Pandas:跨数据集复用分位数分箱规则对新数据进行分组标注

本文详解如何从一个参考数据集(df2)中按日期分组计算四分位数边界,再将这些动态生成的分箱区间精准应用于另一个目标数据集(df1),实现跨数据集的一致性分组标注。

在实际数据分析场景中,常需基于历史或基准数据(如 df2)构建稳定的分位数分箱规则(如中位数切分的二分位、四分位等),再将该规则“冻结”并应用于新观测数据(如 df1)进行标准化分类——这能避免因单次样本波动导致的标签不一致,保障策略回测、风险评级或特征工程的可复现性。

核心挑战在于:pd.qcut 本身不支持直接复用 bins 参数跨数据集应用;且不同日期组的分箱边界各异,需按组对齐、合并与映射。以下是经过验证的四步稳健方案:

✅ 步骤一:按日期分组提取分位数边界

使用 groupby(...).apply() 结合 pd.qcut(..., retbins=True) 提取每组的右闭左开边界数组(bins),并结构化为 DataFrame:

ref = df2.groupby('PriceDate')['Price'].apply(
    lambda g: pd.qcut(g, q=2, retbins=True)[1]  # 返回 bins 数组
)
ref = pd.DataFrame(ref).reset_index(name='Bins')

输出示例:

    PriceDate              Bins
0  2023-10-01   [0.0, 3.2, 9.3]
1  2023-10-02  [0.7, 6.5, 10.0]
⚠️ 注意:q=2 表示二分位(即中位数分割),生成 3 个边界点 → 2 个区间。若需四分位,设 q=4 即可。

✅ 步骤二:关联目标数据与对应分箱规则

通过 merge 将 df1 与 ref 按 PriceDate 左连接,使每行携带其所属日期的专属 Bins 列:

df_merged = pd.merge(df1, ref, on='PriceDate', how='left')

此时 df_merged 中每行已绑定其日期对应的分箱边界列表。

Nanonets
Nanonets

基于AI的自学习OCR文档处理,自动捕获文档数据

下载

✅ 步骤三:定义鲁棒分箱函数(关键!)

为应对 df1 中价格可能超出 df2 原始范围的情况(如异常值、未来新高/低),需扩展边界至无穷大,确保 pd.cut 不报错且逻辑完备:

def assign_quantile_group(group):
    bins = group['Bins'].iloc[0]  # 取当前组唯一 bins
    # 扩展边界:保留内部断点,首尾替换为 -∞ 和 +∞
    extended_bins = [-np.inf] + bins[1:-1].tolist() + [np.inf]
    # 应用 cut:labels=False 返回整数序号(0-based)
    return pd.cut(group['Price'], bins=extended_bins, labels=False).astype('Int64')

? 关键点:bins[1:-1] 剔除原始 qcut 返回的首尾冗余边界(通常为 ±∞ 或极值),仅保留有效分隔点;[-np.inf, ..., np.inf] 确保所有数值均可被归类,且越界值自动落入最左/最右区间。

✅ 步骤四:按日期分组应用分箱函数

调用 groupby(..., group_keys=False).apply() 避免索引重复问题,安全完成映射:

df_merged['Rank'] = df_merged.groupby('PriceDate', group_keys=False).apply(assign_quantile_group)

最终结果示例:

   Price   PriceDate              Bins  Rank
0   -4.4  2023-10-01   [0.0, 3.2, 9.3]   0  # < 3.2 → 第1组(0索引)
1    3.6  2023-10-01   [0.0, 3.2, 9.3]   1  # ∈ (3.2, 9.3] → 第2组
2    9.2  2023-10-01   [0.0, 3.2, 9.3]   1  # 同上
3    3.4  2023-10-02  [0.7, 6.5, 10.0]   0  # ∈ (0.7, 6.5] → 第1组

? 注意事项与最佳实践

  • 缺失值处理:若某 PriceDate 在 df2 中无数据,ref 中对应 Bins 为 NaN,merge 后需提前 dropna(subset=['Bins']) 或填充默认区间;
  • 重复边界:当 qcut 遇到重复值导致边界不足时,添加 duplicates='drop'(如 pd.qcut(..., duplicates='drop'));
  • 性能优化:对大数据集,可用 pd.IntervalIndex.from_breaks() 预构建索引,配合 interval_index.get_indexer() 加速匹配;
  • 可解释性增强:可额外添加 labels 列(如 'Q1', 'Q2')替代数字 Rank,提升业务可读性。

该方法彻底解耦了分箱规则生成与应用阶段,既保证统计严谨性,又具备强健的工程落地能力。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

80

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

32

2026.01.31

PHP 高并发与性能优化
PHP 高并发与性能优化

本专题聚焦 PHP 在高并发场景下的性能优化与系统调优,内容涵盖 Nginx 与 PHP-FPM 优化、Opcode 缓存、Redis/Memcached 应用、异步任务队列、数据库优化、代码性能分析与瓶颈排查。通过实战案例(如高并发接口优化、缓存系统设计、秒杀活动实现),帮助学习者掌握 构建高性能PHP后端系统的核心能力。

114

2025.10.16

PHP 数据库操作与性能优化
PHP 数据库操作与性能优化

本专题聚焦于PHP在数据库开发中的核心应用,详细讲解PDO与MySQLi的使用方法、预处理语句、事务控制与安全防注入策略。同时深入分析SQL查询优化、索引设计、慢查询排查等性能提升手段。通过实战案例帮助开发者构建高效、安全、可扩展的PHP数据库应用系统。

99

2025.11.13

JavaScript 性能优化与前端调优
JavaScript 性能优化与前端调优

本专题系统讲解 JavaScript 性能优化的核心技术,涵盖页面加载优化、异步编程、内存管理、事件代理、代码分割、懒加载、浏览器缓存机制等。通过多个实际项目示例,帮助开发者掌握 如何通过前端调优提升网站性能,减少加载时间,提高用户体验与页面响应速度。

36

2025.12.30

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

102

2026.03.06

Python异步编程与Asyncio高并发应用实践
Python异步编程与Asyncio高并发应用实践

本专题围绕 Python 异步编程模型展开,深入讲解 Asyncio 框架的核心原理与应用实践。内容包括事件循环机制、协程任务调度、异步 IO 处理以及并发任务管理策略。通过构建高并发网络请求与异步数据处理案例,帮助开发者掌握 Python 在高并发场景中的高效开发方法,并提升系统资源利用率与整体运行性能。

37

2026.03.12

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

136

2026.03.11

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

47

2026.03.10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
大数据(MySQL)视频教程完整版
大数据(MySQL)视频教程完整版

共200课时 | 19.3万人学习

PHP会话控制/文件上传/分页技术
PHP会话控制/文件上传/分页技术

共22课时 | 2.2万人学习

马哥初级运维视频教程
马哥初级运维视频教程

共80课时 | 20.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号