0

0

pandas 如何处理 category 类型列的内存优化与排序问题

舞夢輝影

舞夢輝影

发布时间:2026-01-24 19:15:10

|

857人浏览过

|

来源于php中文网

原创

category类型能省内存,但仅适用于唯一值占比低于50%的低基数字符串列,如性别、省份等,可省60%–90%内存;高基数列反而增加开销。

pandas 如何处理 category 类型列的内存优化与排序问题

category 类型真能省内存?先看它适合什么场景

能省,但不是所有字符串列都适合。关键看「唯一值数量 / 总行数」是否明显小于 0.5(即重复度高)。比如性别、省份、订单状态这类低基数(low-cardinality)列,转 category 后内存常减少 60%–90%;而用户昵称、日志消息这种几乎每行都不同的列,转了反而多一层索引开销。

  • 唯一值占比 category
  • 唯一值占比 10%–50%:视数据量而定,百万行以上通常仍受益
  • 唯一值占比 > 50%:基本不省,还可能拖慢某些操作(如 str.contains()

用这行快速检查:

df['col'].nunique() / len(df)

别只看 df.info() 的 memory usage —— 它默认不 deep,得加 deep=True 才算真实字符串内存。

排序时 category 列为啥更快?但默认顺序可能不是你想要的

因为底层存的是整数编码(0, 1, 2…),排序实际是对整数数组操作,比逐个比较字符串快 3–5 倍。但注意:默认排序按「类别出现顺序」或「字典序」,不是你业务里的逻辑顺序(比如 “高” > “中” > “低”)。

  • 要自定义顺序,必须显式创建 CategoricalDtype
    from pandas.api.types import CategoricalDtype<br>cat_type = CategoricalDtype(categories=['低', '中', '高'], ordered=True)<br>df['level'] = df['level'].astype(cat_type)
  • 直接 df['level'].astype('category') 不带 ordered=True,后续 sort_values() 会按字典序排,且无法做大小比较(df['level'] > '中' 报错)
  • sort_values() 对已设 ordered=True 的列,自动按定义顺序升序;降序就加 ascending=False,无需额外映射

读取阶段就优化,别等加载完再转

pd.read_csv() 把整列读成 object 再转 category,中间已占用大量内存。应该在读取时直接指定 dtype:

VIVA
VIVA

一个免费的AI创意视觉设计平台

下载
  • 方法一(推荐):用 dtype 参数:
    df = pd.read_csv('data.csv', dtype={'status': 'category', 'region': 'category'})
  • 方法二:对数值列同步降级,避免 int64 浪费:
    dtype={'user_id': 'uint32', 'score': 'float32'}
  • 方法三:用 convert_dtypes() 做兜底(但它不会自动把字符串转 category,只转为 string 类型)

漏掉这步,100 万行含 3 个高重复字符串列的数据,可能多占 200MB+ 内存,且后续所有 groupbysort_values 都更慢。

容易被忽略的坑:category 列参与 merge 或 filter 时的行为
  • merge 时若左右 DataFrame 的 category 列 categories 不一致(比如左有 ['A','B'],右有 ['B','C']),结果列会自动转回 object,内存和性能优势瞬间消失
  • filter 时写 df[df['cat_col'] == 'X'] 没问题,但用 isin() 要小心:df[df['cat_col'].isin(['X','Y'])] 若 'Y' 不在 categories 中,会静默返回空 —— 不报错,但结果不对
  • 保存为 parquet 时默认保留 category 结构,但存 CSV 会变回字符串;重读 CSV 若没指定 dtype,又回到起点

真正省内存,靠的不是“转一次”,而是从读入、处理到输出全程保持类型意识。一个列转了 category,不代表它就永远安全了——任何隐式类型推断操作(比如 pd.concat()merge()、甚至某些 apply())都可能把它悄悄打回原形。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

79

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

32

2026.01.31

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1010

2023.08.02

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

760

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

221

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1566

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

649

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

1228

2024.03.22

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 6.1万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号