0

0

Python concurrent.futures 的线程池大小经验公式

冷漠man

冷漠man

发布时间:2026-02-20 14:47:16

|

361人浏览过

|

来源于php中文网

原创

线程池大小需按任务类型设定:cpu密集型用os.cpu_count()或+1,i/o密集型用cpu_count()×2至×8,混合型常用×4;max_workers是并发上限,非预分配数,需结合系统资源与任务粒度动态调整。

python concurrent.futures 的线程池大小经验公式

线程池大小设成 CPU 核心数 × 5 就行?

不行,这个数字对 I/O 密集型任务偏小,对 CPU 密集型任务又太大。线程池不是越大越好,关键看任务类型——CPU 密集型任务用太多线程反而触发频繁上下文切换,拖慢整体速度;I/O 密集型任务则需要足够线程来“等”网络、磁盘响应,空转时不占 CPU。

实操建议:

  • 先明确任务性质:requests.get()open()、数据库查询属于 I/O 密集;纯数值计算、图像处理、加密解密属于 CPU 密集
  • CPU 密集型:线程数 ≈ os.cpu_count()os.cpu_count() + 1,再多基本白搭
  • I/O 密集型:从 os.cpu_count() * 2 起步,逐步加到 os.cpu_count() * 8 左右,观察系统负载和任务完成时间拐点
  • 混合型(比如一边读文件一边算哈希):优先按 I/O 占比调,通常 os.cpu_count() * 4 是较稳的起点

ThreadPoolExecutor(max_workers=...) 的 max_workers 到底怎么填

max_workers 是硬上限,不是预分配数。它控制的是「同一时刻最多有几个线程在跑」,超出的任务会排队等待空闲线程。填得太小,队列积压;填得太大,线程创建/销毁开销和内存占用明显上升,尤其在短生命周期任务中。

常见错误现象:

立即学习Python免费学习笔记(深入)”;

酷源OA系统 2008奥运版
酷源OA系统 2008奥运版

........酷源科技旗下产品DoeipOA 2008奥运版,经过精心策划、周密准备和紧密的团队协作,于近日正式推出,功能齐全,操作更加人性化,是公司适应市场发展的需求,以用户为导向努力打造的新一代OA产品。采用了.net平台先进的开发技术,酷源OA办公自动化系统拥有信息交流、工作日志、日程安排、网络硬盘、在线QQ交流等超过三十大项基本功能及上百种子功能模块,包括体验版、标准版、企业版、集团版、

下载
  • 设了 max_workers=1000,结果 ps aux | grep python 看到几百个 Thread-,内存涨得飞快,但总耗时没变短
  • 设了 max_workers=1,所有任务串行,明明是网络请求却比单线程还慢(因为 ThreadPoolExecutor 自身调度也有微小开销)

实操建议:

  • 避免写死数字,改用动态值:max_workers=os.cpu_count() * 4 if 'io' in workload_type else os.cpu_count()
  • 如果任务本身带超时(如 requests.get(..., timeout=5)),可适当放大线程数——失败后线程快速释放,不会卡死
  • Linux 下注意 /proc/sys/kernel/threads-max 和 ulimit -u,线程数超限会抛 OSError: can't start new thread

为什么开了 20 个线程,top 里看到的 CPU 使用率才 120%

这是正常现象,说明有线程在等 I/O,没占满 CPU。Python 的 ThreadPoolExecutor 不会把线程绑到特定核上,调度由 OS 决定;而且 CPython 的 GIL 让纯 Python 计算无法并行,只有 I/O 操作或调用 C 扩展(如 requests 底层的 libcurl)时才会真正释放 GIL 并发执行。

性能影响要点:

  • GIL 不影响 I/O 并发效率,所以 requestssqlite3open() 这类操作仍能靠多线程提速
  • sum([x**2 for x in range(10**7)]) 这种计算,开 20 个线程和开 1 个几乎一样慢
  • 想榨干 CPU,该用 multiprocessingconcurrent.futures.ProcessPoolExecutor,别在线程上硬扛

线程池大小和系统资源冲突的典型信号

不是报错才叫出问题。以下表现往往意味着 max_workers 设得不合理:

  • 任务平均延迟突然变长,且 executor.submit(...) 返回的 Future 对象长时间处于 running 状态却不 finish
  • htop 里看到大量线程状态为 S(sleeping),但 CPU 利用率低、磁盘 I/O 高——说明线程都在等响应,池子可能不够大
  • 程序运行一阵后抛 BrokenPipeErrorConnectionResetError,尤其在高频 HTTP 请求场景下——线程过多导致目标服务限流或本地端口耗尽(netstat -an | grep TIME_WAIT | wc -l 超过 6w 就危险)
  • 日志里反复出现 concurrent.futures._base.TimeoutError,但单次请求其实很快——大概率是队列太长,任务等不到线程就超时了

最容易被忽略的一点:线程池大小不是孤立参数,它和任务粒度强相关。100 个 10ms 的请求,用 10 个线程比用 100 个更稳;但 10 个 5s 的请求,100 个线程就容易把系统拖垮。调参前先看单任务耗时分布。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

822

2023.08.22

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

675

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

369

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

26

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

24

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

99

2026.02.06

Java 并发编程高级实践
Java 并发编程高级实践

本专题深入讲解 Java 在高并发开发中的核心技术,涵盖线程模型、Thread 与 Runnable、Lock 与 synchronized、原子类、并发容器、线程池(Executor 框架)、阻塞队列、并发工具类(CountDownLatch、Semaphore)、以及高并发系统设计中的关键策略。通过实战案例帮助学习者全面掌握构建高性能并发应用的工程能力。

94

2025.12.01

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

374

2023.06.29

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

776

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.4万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号