0

0

Python 并发限流的实现思路

冷炫風刃

冷炫風刃

发布时间:2026-01-21 20:38:44

|

383人浏览过

|

来源于php中文网

原创

Python并发限流核心是控制任务并发数防资源过载,按场景选机制:单机用Semaphore或线程池,分布式用Redis+Lua,精细化用令牌桶算法。

python 并发限流的实现思路

Python 并发限流的核心目标是控制同时执行的任务数量,防止资源过载(如数据库连接耗尽、API 调用超频、CPU 或内存打满)。实现思路不依赖单一方案,而是按场景选择合适机制:轻量级用信号量或线程池控制并发数,分布式需引入外部协调(如 Redis),高精度限流则用令牌桶或漏桶算法。

基于 threading.Semaphore 的简单并发控制

适用于单进程内多线程/多协程(配合 asyncio)的粗粒度限流。Semaphore 本质是一个计数器,acquire() 减一、release() 加一,超出初始值时阻塞等待。

常见写法:

  • 初始化 red">sem = Semaphore(n),n 即最大并发数
  • 每个任务执行前调用 sem.acquire(),结束后必须 sem.release()(建议用 try/finally 或上下文管理器)
  • asyncio 中可用 asyncio.Semaphore,配合 async with sem: 更安全

利用 concurrent.futures.ThreadPoolExecutorProcessPoolExecutor

这是更“Pythonic”的方式——不手动管信号量,而是把限流逻辑交给执行器本身。max_workers 参数直接限制线程/进程数,底层自动排队调度。

立即学习Python免费学习笔记(深入)”;

优势明显:

mallcloud商城
mallcloud商城

mallcloud商城基于SpringBoot2.x、SpringCloud和SpringCloudAlibaba并采用前后端分离vue的企业级微服务敏捷开发系统架构。并引入组件化的思想实现高内聚低耦合,项目代码简洁注释丰富上手容易,适合学习和企业中使用。真正实现了基于RBAC、jwt和oauth2的无状态统一权限认证的解决方案,面向互联网设计同时适合B端和C端用户,支持CI/CD多环境部署,并提

下载
  • 自带任务队列和异常传播,无需手动处理阻塞与释放
  • 支持 submit() 提交单个任务,或 map() 批量分发,返回 Future 对象便于结果收集
  • 适合 I/O 密集型(用 ThreadPoolExecutor)或 CPU 密集型(用 ProcessPoolExecutor)场景

分布式环境下的限流:Redis + Lua 原子操作

单机限流在微服务或多实例部署下失效,需共享状态。Redis 是常用选择,关键在于保证“检查+更新”原子性,避免竞态条件。

典型做法:

  • 用 Redis 的 INCR + EXPIRE 组合模拟滑动窗口,但存在临界问题;更稳妥的是用 Lua 脚本封装整个限流逻辑
  • 例如:脚本读取当前计数、判断是否超限、未超则 INCR 并设置过期时间,全程在 Redis 内原子执行
  • Python 端通过 redis-py 调用 eval() 方法传入脚本和参数,返回布尔值表示是否允许通过

精细化速率控制:令牌桶(Token Bucket)实现

当需要按“QPS”或“每秒请求数”动态限流(而非单纯控并发数),令牌桶更贴切。它以恒定速率向桶中添加令牌,每次请求消耗一个令牌,桶满则丢弃新令牌。

可选实现路径:

  • 单机:用 time.time() 记录上次填充时间,按间隔计算应新增令牌数,维护一个浮点数计数器
  • 分布式:将桶状态存 Redis,用 Lua 更新(如 key 存 last_time 和 tokens,每次请求脚本计算并返回是否允许)
  • 第三方库如 pyrate-limiter 已封装多种算法(令牌桶、漏桶、滑动窗口),支持内存/Redis 后端,开箱即用

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

769

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

661

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

764

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

659

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1345

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

549

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

579

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

730

2023.08.11

Golang 性能分析与pprof调优实战
Golang 性能分析与pprof调优实战

本专题系统讲解 Golang 应用的性能分析与调优方法,重点覆盖 pprof 的使用方式,包括 CPU、内存、阻塞与 goroutine 分析,火焰图解读,常见性能瓶颈定位思路,以及在真实项目中进行针对性优化的实践技巧。通过案例讲解,帮助开发者掌握 用数据驱动的方式持续提升 Go 程序性能与稳定性。

0

2026.01.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

相关下载

更多

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 10.8万人学习

Django 教程
Django 教程

共28课时 | 3.3万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号