0

0

Python 大对象频繁创建的优化策略

冷漠man

冷漠man

发布时间:2026-01-30 09:15:10

|

297人浏览过

|

来源于php中文网

原创

大对象创建慢的主因常被误判,实际瓶颈多在深拷贝、序列化反序列化或IO加载;应通过tracemalloc定位真实分配点,优先复用、延迟初始化或流式处理。

python 大对象频繁创建的优化策略

大对象创建慢,先看是不是真在创建

很多情况下所谓“频繁创建大对象”,其实是误判。比如 listdict 每次都用 [...]{...} 初始化,看起来是新建,但 CPython 对小到中等尺寸的容器做了内存池和复用优化;真正拖慢性能的,往往是深拷贝、序列化反序列化、或从磁盘/网络加载大结构体(如 pickle.load() 读百 MB 级 dict)。

验证方式很简单:用 sys.getsizeof() 粗略看单个对象内存占用,再用 tracemalloc 跟踪实际分配峰值:

import tracemalloc
tracemalloc.start()
# 运行你的关键逻辑
snapshot = tracemalloc.take_snapshot()
top_stats = snapshot.statistics('lineno')
for stat in top_stats[:3]:
    print(stat)

如果发现大量内存来自某一行 json.loads()pd.read_csv(),那才真是“创建”瓶颈,不是语法层面的“new”问题。

避免重复构造,优先复用或延迟初始化

常见场景是循环里反复生成相同结构的大对象,比如每次迭代都 np.zeros((1000, 1000))torch.Tensor(...)。这类对象开销主要在内存分配+清零,而非 Python 对象本身。

立即学习Python免费学习笔记(深入)”;

  • 固定形状且可复用:提前分配一次,循环内用 .fill(0).zero_() 重置,比重新分配快 3–5 倍
  • 内容只读:用 functools.lru_cache 缓存构造结果,尤其适合带参数的工厂函数
  • 真正需要隔离状态:考虑用对象池(queue.LifoQueue 管理预分配实例),但注意线程安全与 GC 干扰
  • 数据来源是文件或 API:不要每次 json.load(open(...)),改用流式解析(ijson)或 mmap + 结构化视图(numpy.memmap

深拷贝 copy.deepcopy() 是最大陷阱

这是 Python 中最常被滥用的“大对象创建”操作。它递归遍历所有引用,对每个子对象调用构造器,哪怕只是复制一个嵌套很深的 dict,也会触发数百次小对象分配。

千博企业网站管理系统静态HTML2009 Build 0601
千博企业网站管理系统静态HTML2009 Build 0601

千博企业网站管理系统静态HTML搜索引擎优化单语言个人版介绍:系统内置五大模块:内容的创建和获取功能、存储和管理功能、权限管理功能、访问和查询功能及信息发布功能,安全强大灵活的新闻、产品、下载、视频等基础模块结构和灵活的框架结构,便捷的频道管理功能可无限扩展网站的分类需求,打造出专业的企业信息门户网站。周密的安全策略和攻击防护,全面防止各种攻击手段,有效保证网站的安全。系统在用户资料存储和传递中,

下载

替代方案取决于使用场景:

  • 只读需求:直接共享引用,或用 types.MappingProxyType 封装原始 dict
  • 需局部修改:用 copy.copy()(浅拷贝)+ 手动覆盖关键字段,避免递归
  • 结构固定:用 dataclasses.replace() 替代 deepcopy,仅重建变更字段
  • 数值计算密集:用 numpy.array.copy()torch.clone(),它们走底层 memcpy,不经过 Python 层构造逻辑

特别注意:json.dumps(obj); json.loads(...) 看似“序列化绕过”,实则更慢且丢失类型——这不是优化,是退化。

内存视角下的“大对象”往往不是 Python 对象

真正吃内存的,通常是 numpy.ndarraytorch.Tensorpandas.DataFrame 底层的 C 堆内存,而 Python 层对象只是薄封装。这时候优化重点不在“少 new”,而在“少 hold”:

  • 及时 del 掉中间大数组,配合 gc.collect()(仅当确认引用已断且内存未释放时)
  • __slots__ 减少实例字典开销——对含大量小对象(如百万级 Point 实例)有效,但对单个大数组无效
  • 警惕隐式拷贝:df.iloc[100:200] 在旧版 pandas 返回视图,新版默认 copy;显式加 .copy(deep=False) 或用 .values 获取底层数组
  • 必要时启用 madvise 提示(Linux):通过 posix_fadvisenumpy.ndarray.nbytes 配合 mmap 控制页面回收策略

真正难优化的,是那些既不能复用、又无法流式处理、还必须全量驻留内存的场景——这时候与其纠结“怎么建得快”,不如检查是否真的需要一次性全量加载。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

419

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

535

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

311

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

77

2025.09.10

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

67

2025.12.04

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

240

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

192

2025.07.04

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

397

2023.07.18

C++ 设计模式与软件架构
C++ 设计模式与软件架构

本专题深入讲解 C++ 中的常见设计模式与架构优化,包括单例模式、工厂模式、观察者模式、策略模式、命令模式等,结合实际案例展示如何在 C++ 项目中应用这些模式提升代码可维护性与扩展性。通过案例分析,帮助开发者掌握 如何运用设计模式构建高质量的软件架构,提升系统的灵活性与可扩展性。

0

2026.01.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 8.1万人学习

Git 教程
Git 教程

共21课时 | 3.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号