0

0

Python缺失值处理策略_填充删除与预测方法【指导】

冷炫風刃

冷炫風刃

发布时间:2025-12-25 21:57:18

|

675人浏览过

|

来源于php中文网

原创

缺失值判断应使用 pd.isna(),它能统一识别 none、np.nan 和 pd.na;删除用 dropna() 时需注意 subset 参数;数值填充优先选 simpleimputer(strategy='median');预测填充仅适用于高相关特征;非随机缺失(mnar)宜转为二值特征。

python缺失值处理策略_填充删除与预测方法【指导】

缺失值判断要用 pd.isna(),别用 == Noneis None

Python 中 Nonenp.nanpd.NA 都可能表示缺失,但它们行为不同。== Nonenp.nan 永远返回 Falseis None 在 pandas Series 中多数情况下也不可靠。唯一通用且安全的判断方式是 pd.isna()(它同时识别 np.nanNonepd.NA)。

  • df['col'].isna() 返回布尔 Series,可直接用于筛选或统计
  • df.isna().sum() 快速查看每列缺失数量
  • 注意:pd.notna() 是反向操作,等价于 ~df.isna()

删除缺失行用 dropna(),但默认只删全为 NaN 的行

dropna() 默认参数是 how='any'axis=0,但很多人误以为它会删掉「任意含缺失的行」——其实它确实会,但前提是没指定 subset。真正容易出错的是:当只想删某几列有缺失的行时,必须显式传 subset,否则其他列的缺失会被忽略。

  • 删掉 'age''income' 中任一列为空的整行:df.dropna(subset=['age', 'income'])
  • 只删「所有列都为空」的行:df.dropna(how='all')
  • 删列(不常用):df.dropna(axis=1, how='all') —— 删全为 NaN 的列
  • ⚠️ 注意:inplace=True 不推荐,易掩盖原始数据状态;优先用赋值:df = df.dropna(...)

数值型填充优先用 SimpleImputer(strategy='median'),不是均值

均值对异常值极度敏感,而中位数鲁棒性强得多。pandas 的 fillna() 虽方便,但无法跨训练/测试集一致应用(比如用训练集的中位数去填测试集),工程部署时容易出错。sklearn 的 SimpleImputer 支持 fit() + transform() 流程,确保数据一致性。

ColorMagic
ColorMagic

AI调色板生成工具

下载
from sklearn.impute import SimpleImputer
import numpy as np

imp = SimpleImputer(strategy='median')
X_train_imputed = imp.fit_transform(X_train.select_dtypes(include=[np.number]))
X_test_imputed = imp.transform(X_test.select_dtypes(include=[np.number]))
  • strategy='most_frequent' 适用于离散型数值(如编码后的类别)
  • strategy='constant' 填固定值(如 -999),需配合后续模型处理逻辑
  • 分类变量别用 SimpleImputer 填均值/中位数——类型不匹配会报错

预测填充(KNN / IterativeImputer)只在特征强相关时才有效

KNN 填充和 IterativeImputer 本质是建模:用其他列预测缺失列。如果变量间线性/非线性关系弱,预测结果反而比中位数更差,还大幅拖慢速度。实测中,超过 50 列且缺失率 >15% 时,IterativeImputer 训练时间可能增长 10 倍以上,且结果不稳定。

立即学习Python免费学习笔记(深入)”;

  • 小规模、高相关数据可用:from sklearn.impute import KNNImputern_neighbors=5 通常够用
  • IterativeImputer 默认用 BayesianRidge,但换成 DecisionTreeRegressor 有时更鲁棒(尤其含离散特征时)
  • ⚠️ 绝对不要在未标准化的数据上用 KNN —— 量纲差异会导致距离失真

缺失机制本身比方法选择更重要:若缺失不是随机(MNAR),比如“收入越低,越不愿填写”,那任何插补都会引入系统性偏差。这种时候,与其强行填,不如把「是否缺失」转为二值特征参与建模。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

78

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

32

2026.01.31

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

22

2026.03.10

Kotlin Android模块化架构与组件化开发实践
Kotlin Android模块化架构与组件化开发实践

本专题围绕 Kotlin 在 Android 应用开发中的架构实践展开,重点讲解模块化设计与组件化开发的实现思路。内容包括项目模块拆分策略、公共组件封装、依赖管理优化、路由通信机制以及大型项目的工程化管理方法。通过真实项目案例分析,帮助开发者构建结构清晰、易扩展且维护成本低的 Android 应用架构体系,提升团队协作效率与项目迭代速度。

48

2026.03.09

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

93

2026.03.06

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

216

2026.03.05

PHP高性能API设计与Laravel服务架构实践
PHP高性能API设计与Laravel服务架构实践

本专题围绕 PHP 在现代 Web 后端开发中的高性能实践展开,重点讲解基于 Laravel 框架构建可扩展 API 服务的核心方法。内容涵盖路由与中间件机制、服务容器与依赖注入、接口版本管理、缓存策略设计以及队列异步处理方案。同时结合高并发场景,深入分析性能瓶颈定位与优化思路,帮助开发者构建稳定、高效、易维护的 PHP 后端服务体系。

413

2026.03.04

AI安装教程大全
AI安装教程大全

2026最全AI工具安装教程专题:包含各版本AI绘图、AI视频、智能办公软件的本地化部署手册。全篇零基础友好,附带最新模型下载地址、一键安装脚本及常见报错修复方案。每日更新,收藏这一篇就够了,让AI安装不再报错!

143

2026.03.04

Swift iOS架构设计与MVVM模式实战
Swift iOS架构设计与MVVM模式实战

本专题聚焦 Swift 在 iOS 应用架构设计中的实践,系统讲解 MVVM 模式的核心思想、数据绑定机制、模块拆分策略以及组件化开发方法。内容涵盖网络层封装、状态管理、依赖注入与性能优化技巧。通过完整项目案例,帮助开发者构建结构清晰、可维护性强的 iOS 应用架构体系。

221

2026.03.03

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.9万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号