0

0

Python 漏桶算法与令牌桶的业务适用性

冷炫風刃

冷炫風刃

发布时间:2026-02-21 06:13:13

|

653人浏览过

|

来源于php中文网

原创

漏桶算法适合硬限流但无突发弹性,令牌桶更适web api且支持短时突发;生产限流应优先选redis实现的令牌桶,并注意key分桶、中间件顺序及超时熔断配合。

python 漏桶算法与令牌桶的业务适用性

漏桶算法在 Python 中适合做硬限流,但别用它防突发流量

漏桶本质是恒定速率出水,time.sleep() 或固定间隔 deque.popleft() 都能模拟,但它对突发请求毫无弹性——哪怕系统空闲,请求也得排队等“漏水”。适合下游服务极其脆弱、必须严格控速的场景,比如调用银行接口或写入硬件设备。

  • 常见错误:用漏桶应对秒杀流量,结果大量请求在桶里堆积超时,TimeoutError 暴增
  • 真实使用场景:定时同步日志到 ELK,每秒最多发 10 条,多一条都不行
  • 性能影响:桶容量大时,内存占用线性增长;用 threading.Lock 保护桶状态会成瓶颈

令牌桶更适合 Web API 限流,Python 用 redis-py 实现最稳

令牌桶允许短时突发(桶里有余量就放行),更贴合真实业务。纯内存实现(如 threading.local)只适用于单进程调试;生产必须依赖 Redis,靠 INCR + EXPIRE 原子操作保一致性。

  • 参数关键点:rate(令牌生成速率)、capacity(桶大小)要分开调:高并发接口可设 capacity=100 + rate=20/second,避免冷启动时全拒
  • 容易踩的坑:没设 EXPIRE 导致桶状态永久残留;用 float(time.time()) 算令牌数引发浮点误差,建议用整数时间戳 + int() 截断
  • 兼容性注意:Redis Cluster 下 EVAL 脚本需确保 key 在同一 slot,否则报 CROSSSLOT 错误

ratelimitslowapi 这类库默认用令牌桶,但别直接信文档里的“开箱即用”

它们封装了逻辑,但默认配置常忽略业务细节。比如 ratelimit@rate_limit 装饰器,默认用内存存储,部署多实例就失效;slowapiLimiter 若不显式传 key_func,所有用户共用一个桶。

Pixelcut
Pixelcut

AI产品图片处理——背景移除替换、物体抹除和图片放大

下载
  • 实操建议:强制指定 key_func,例如按 request.client.hostrequest.headers.get("X-User-ID") 分桶
  • 检查中间件顺序:FastAPI 中若 LimiterCORSMiddleware 后注册,预检请求(OPTIONS)可能被误限
  • 错误现象:429 Too Many Requests 返回但响应头没带 X-RateLimit-Remaining,说明底层没正确注入响应头逻辑

业务决策不是选算法,而是看“谁承担溢出成本”

漏桶让请求方等,令牌桶让请求方抢。如果超限后重试成本低(比如客户端自动轮询),用令牌桶;如果超限意味着订单丢失或资金风险(如支付回调),就得用漏桶+明确拒绝+返回 429 + 重试建议头。

立即学习Python免费学习笔记(深入)”;

  • 最容易被忽略的一点:两种桶都解决不了“慢请求拖垮系统”的问题——限流只管数量,不管单个请求耗时。得配合 timeout 参数或熔断器(如 tenacity)一起用
  • 复杂点在于混合策略:核心接口用漏桶保底,非核心用令牌桶保体验,这时得在网关层统一鉴权和分流,而不是在每个服务里各自实现

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

180

2024.05.11

Golang 中间件开发与微服务架构
Golang 中间件开发与微服务架构

本专题系统讲解 Golang 在微服务架构中的中间件开发,包括日志处理、限流与熔断、认证与授权、服务监控、API 网关设计等常见中间件功能的实现。通过实战项目,帮助开发者理解如何使用 Go 编写高效、可扩展的中间件组件,并在微服务环境中进行灵活部署与管理。

224

2025.12.18

Python FastAPI异步API开发_Python怎么用FastAPI构建异步API
Python FastAPI异步API开发_Python怎么用FastAPI构建异步API

Python FastAPI 异步开发利用 async/await 关键字,通过定义异步视图函数、使用异步数据库库 (如 databases)、异步 HTTP 客户端 (如 httpx),并结合后台任务队列(如 Celery)和异步依赖项,实现高效的 I/O 密集型 API,显著提升吞吐量和响应速度,尤其适用于处理数据库查询、网络请求等耗时操作,无需阻塞主线程。

28

2025.12.22

Python 微服务架构与 FastAPI 框架
Python 微服务架构与 FastAPI 框架

本专题系统讲解 Python 微服务架构设计与 FastAPI 框架应用,涵盖 FastAPI 的快速开发、路由与依赖注入、数据模型验证、API 文档自动生成、OAuth2 与 JWT 身份验证、异步支持、部署与扩展等。通过实际案例,帮助学习者掌握 使用 FastAPI 构建高效、可扩展的微服务应用,提高服务响应速度与系统可维护性。

225

2026.02.06

css中float用法
css中float用法

css中float属性允许元素脱离文档流并沿其父元素边缘排列,用于创建并排列、对齐文本图像、浮动菜单边栏和重叠元素。想了解更多float的相关内容,可以阅读本专题下面的文章。

592

2024.04.28

C++中int、float和double的区别
C++中int、float和double的区别

本专题整合了c++中int和double的区别,阅读专题下面的文章了解更多详细内容。

105

2025.10.23

string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

790

2023.08.02

int占多少字节
int占多少字节

int占4个字节,意味着一个int变量可以存储范围在-2,147,483,648到2,147,483,647之间的整数值,在某些情况下也可能是2个字节或8个字节,int是一种常用的数据类型,用于表示整数,需要根据具体情况选择合适的数据类型,以确保程序的正确性和性能。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

578

2024.08.29

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

796

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.4万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号