0

0

Python 长连接服务的内存管理策略

舞姬之光

舞姬之光

发布时间:2026-02-20 09:49:47

|

733人浏览过

|

来源于php中文网

原创

长连接服务内存持续增长的主因是socket未及时关闭、连接数失控、大对象序列化不流式处理及心跳检测高频创建对象,需显式调用close()、用semaphore限流、流式序列化和单调时钟优化。

python 长连接服务的内存管理策略

长连接服务中 socket 对象不及时关闭导致内存持续增长

Python 的 socket 对象底层持有系统文件描述符和缓冲区,一旦建立长连接但未显式调用 close(),对象即使被变量引用释放,也可能因循环引用或异步框架延迟回收而滞留。常见现象是 ps aux 显示进程 RSS 持续上涨,gc.get_objects() 能查到大量未销毁的 socket 实例。

  • 务必在连接断开逻辑末尾调用 sock.close(),不要依赖 __del__with 语句(长连接生命周期超出作用域)
  • 使用 weakref.finalize() 做兜底:例如 weakref.finalize(sock, lambda: print("socket closed")),可快速验证是否真被释放
  • 若用 asyncio,注意 StreamWriter.close() 后还需 await wait_closed(),否则 socket 可能卡在 CLOSE_WAIT

asyncio 下连接池未限制最大并发数引发 OOM

很多人以为 asyncio 是“轻量”,但每个活跃连接仍需分配 recv/send buffer、task 对象、SSL 上下文等。不限制连接数时,突发流量会瞬间拉起成千 task,内存直接飙高甚至触发 Linux OOM killer。

  • asyncio.Semaphore 控制并发连接数,例如初始化 sem = asyncio.Semaphore(100),在 accept 后立刻 await sem.acquire(),断开前 sem.release()
  • 避免在 connection handler 中启动无限制的子任务(如 asyncio.create_task(...) 不加控制),应统一走连接池调度
  • 观察 /proc/[pid]/status 中的 VmRSSThreads 字段,线程数异常高往往意味着 task 泄漏

JSON / Protocol Buffer 序列化大对象时不流式处理造成临时内存峰值

长连接服务常需推送批量数据(如行情快照、日志聚合),若一次性 json.dumps(big_dict)pb.SerializeToString(),Python 会先在内存构造完整 bytes 对象,可能比原始数据大 2–3 倍(字符串编码、中间对象开销)。

Musho
Musho

AI网页设计Figma插件

下载
  • 对大结构体改用流式序列化:JSON 场景用 json.JSONEncoder().iterencode() 配合 sock.sendall() 分块发送;Protobuf 推荐用 SerializePartialToString() + 手动分片
  • 禁用 json.dumps(..., indent=2) 等美化选项,生产环境只需紧凑格式
  • 发送前用 sys.getsizeof() 抽样检查序列化结果大小,超过 1MB 就该考虑分片或压缩

心跳检测逻辑里反复创建 datetime 对象和字符串格式化

每秒执行的心跳检查若写成 if datetime.now() > last_heartbeat + timedelta(seconds=30):,再配上 log.info(f"timeout at {datetime.now()}"),看似无害,但高频创建 datetime 对象和字符串会显著增加 GC 压力,尤其在万级连接时。

立即学习Python免费学习笔记(深入)”;

  • 用单调时钟替代:改用 time.monotonic() 记录时间戳,比较只做 float 运算,零对象分配
  • 日志中避免实时格式化,用 lazy logging:例如 log.info("timeout at %s", time.time()),让 logging 模块按需格式化
  • 心跳超时判断改用整数计数器(如每收到一个包 last_active_tick += 1),配合固定 tick 间隔更新,彻底规避时间对象

真正棘手的不是单点泄漏,而是多个小问题叠加:socket 忘关 + 连接数失控 + 序列化暴增 + 心跳开销,四者乘在一起,内存就不是线性涨了。上线前至少要跑一轮连接数阶梯压测,盯着 top -p [pid]cat /proc/[pid]/maps | grep anon | wc -l 看匿名页增长节奏。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

442

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

544

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

322

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

81

2025.09.10

python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end=' ', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

192

2023.09.27

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

13

2026.02.03

css中float用法
css中float用法

css中float属性允许元素脱离文档流并沿其父元素边缘排列,用于创建并排列、对齐文本图像、浮动菜单边栏和重叠元素。想了解更多float的相关内容,可以阅读本专题下面的文章。

591

2024.04.28

C++中int、float和double的区别
C++中int、float和double的区别

本专题整合了c++中int和double的区别,阅读专题下面的文章了解更多详细内容。

105

2025.10.23

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

660

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.4万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号