0

0

Python异步IO实战_高并发网络请求

冰川箭仙

冰川箭仙

发布时间:2026-03-09 17:28:40

|

989人浏览过

|

来源于php中文网

原创

python异步io通过async/await配合asyncio及aiohttp/httpx实现单线程高并发,避免requests同步阻塞问题,100请求耗时≈最长响应时间;需复用clientsession、设timeout、用semaphore限流,并注意仅适用于io密集型场景。

python异步io实战_高并发网络请求

Python异步IO是处理高并发网络请求的高效方式,核心在于用 async/await 配合 asyncio 和支持异步的HTTP客户端(如 aiohttphttpx),避免阻塞、复用单线程资源,显著提升吞吐量。

为什么不用 requests?

requests 是同步阻塞库,每次发起 HTTP 请求都会卡住当前线程,直到响应返回。在并发场景下,100 个请求会串行等待或需配合多线程/多进程——开销大、调度重、内存占用高。而异步IO让多个请求“同时”发出、各自回调,真正实现单线程高并发。

  • 同步:100 次请求 ≈ 总耗时 ≈ 所有响应时间之和(串行)或 ≈ 最长单次响应时间(多线程并行,但线程创建/切换成本高)
  • 异步:100 次请求 ≈ 总耗时 ≈ 最长单次响应时间(理想网络下),CPU 几乎不空转等待

用 aiohttp 发起并发 GET 请求

aiohttp 是 Python 生态最成熟的异步 HTTP 客户端,需搭配 asyncio.gather()asyncio.create_task() 并发调度:

import asyncio
import aiohttp
<p>async def fetch(session, url):
try:
async with session.get(url, timeout=5) as response:
return await response.text()
except Exception as e:
return f"Error: {e}"</p><p>async def main():
urls = ["<a href="https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c">https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c</a>"] <em> 20  # 模拟 20 个延迟 1 秒的请求
async with aiohttp.ClientSession() as session:
tasks = [fetch(session, url) for url in urls]
results = await asyncio.gather(</em>tasks)
print(f"完成 {len(results)} 个请求")</p><p>asyncio.run(main())

关键点:
ClientSession 必须复用(不能每个请求都新建),它管理连接池和 cookie;
timeout 必须显式设置,否则可能无限挂起;
gather 会等待全部完成,任一异常默认导致整体失败(可用 return_exceptions=True 容错)。

控制并发数,避免压垮服务或触发限流

无限制并发(如上面例子中 20 个同时发)可能被目标服务器拒绝、丢包,或耗尽本地文件描述符。推荐用 asyncio.Semaphore 限流:

聚蜂消防BeesFPD
聚蜂消防BeesFPD

关注消防领域的智慧云平台

下载

立即学习Python免费学习笔记(深入)”;

sem = asyncio.Semaphore(5)  # 最多 5 个并发
<p>async def fetch_limited(session, url):
async with sem:  # 进入信号量,超限时自动等待
return await fetch(session, url)</p><h1>然后在 main 中:</h1><p>tasks = [fetch_limited(session, url) for url in urls]

常见策略:
– 小型爬虫/API 聚合:3~10 并发较安全;
– 内部微服务调用:可放宽至 20~50,视对方 QPS 和 SLA 调整;
– 加上指数退避重试 + User-Agent 轮换,更贴近生产健壮性。

替代方案:httpx 更简洁,支持 sync/async 双模式

httpx API 更接近 requests,学习成本低,且原生支持 HTTP/2 和异步上下文管理:

import httpx
import asyncio
<p>async def fetch_with_httpx(url):
async with httpx.AsyncClient(timeout=5) as client:
resp = await client.get(url)
return resp.text</p><p>async def main():
urls = ["<a href="https://www.php.cn/link/4d2fe2e8601f7a8018594d98f28706f2">https://www.php.cn/link/4d2fe2e8601f7a8018594d98f28706f2</a>"] <em> 10
results = await asyncio.gather(</em>[fetch_with_httpx(u) for u in urls])

优势:
– 单库覆盖同步开发调试 + 异步上线部署;
– 自动复用连接(AsyncClient 实例内);
– 返回对象与 requests.Response 接口高度兼容,迁移成本低。

异步不是银弹——适合 IO 密集型(网络、数据库)、不适合 CPU 密集型任务。写对了,百倍并发轻松扛;写错了(比如混用阻塞调用、未 await、忘记 close),反而比同步还慢。关键是理解事件循环、避免隐式阻塞、善用工具链。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
cookie
cookie

Cookie 是一种在用户计算机上存储小型文本文件的技术,用于在用户与网站进行交互时收集和存储有关用户的信息。当用户访问一个网站时,网站会将一个包含特定信息的 Cookie 文件发送到用户的浏览器,浏览器会将该 Cookie 存储在用户的计算机上。之后,当用户再次访问该网站时,浏览器会向服务器发送 Cookie,服务器可以根据 Cookie 中的信息来识别用户、跟踪用户行为等。

6498

2023.06.30

document.cookie获取不到怎么解决
document.cookie获取不到怎么解决

document.cookie获取不到的解决办法:1、浏览器的隐私设置;2、Same-origin policy;3、HTTPOnly Cookie;4、JavaScript代码错误;5、Cookie不存在或过期等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

368

2023.11.23

阻止所有cookie什么意思
阻止所有cookie什么意思

阻止所有cookie意味着在浏览器中禁止接受和存储网站发送的cookie。阻止所有cookie可能会影响许多网站的使用体验,因为许多网站使用cookie来提供个性化服务、存储用户信息或跟踪用户行为。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

444

2024.02.23

cookie与session的区别
cookie与session的区别

本专题整合了cookie与session的区别和使用方法等相关内容,阅读专题下面的文章了解更详细的内容。

97

2025.08.19

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1876

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

636

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2382

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

47

2026.01.19

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

59

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.9万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号