0

0

Python并发请求实现_asyncio网络实战

冷漠man

冷漠man

发布时间:2026-03-05 18:30:34

|

305人浏览过

|

来源于php中文网

原创

python并发请求实现_asyncio网络实战

asyncio并发请求的核心逻辑

Python中用asyncio发并发HTTP请求,关键不是“同时发100个”,而是让IO等待时不阻塞主线程——比如发请求后不等响应,立刻切去处理下一个请求或已返回的数据。真正起效的前提是:所有IO操作(如HTTP请求)都得是异步的,不能混用requests这类同步库。

用aiohttp替代requests发异步请求

aiohttpasyncio生态中最常用的异步HTTP客户端。它本身基于async/await设计,能自然融入事件循环。安装后直接用session.get()发起请求,配合async with管理连接生命周期,避免资源泄漏。

  • 创建aiohttp.ClientSession()一次,复用给多个请求,别每次新建
  • 每个请求用await session.get(url),不是session.get(url).text()
  • 响应体用await resp.text()await resp.json(),加await
  • timeout参数防卡死,例如timeout=aiohttp.ClientTimeout(total=10)

控制并发数防止目标服务器压力过大

无限制并发(如asyncio.gather(*tasks)扔几百个任务)可能触发对方限流、封IP,或耗尽本地文件描述符。推荐用asyncio.Semaphore做并发限流:

  • 初始化一个信号量:sem = asyncio.Semaphore(10),表示最多10个并发
  • 每个请求前async with sem:,自动排队获取许可
  • 结合asyncio.create_task()启动任务,比gather更灵活,便于错误隔离和重试

异常处理与重试不能省略

网络请求失败很常见:超时、连接拒绝、状态码非2xx、JSON解析失败……这些在异步里不会自动中断整个程序,但若不捕获,错误会被静默吞掉或导致后续逻辑出错。

骏商团购导航程序
骏商团购导航程序

骏商团购导航程序,是继手拉手团购程序推出后,团队再继续打造的一款针对于团购导航的开源程序,为了带给消费者有品质保障的团购服务,为了保护被收录的1500家团购网站的健康发展,同时为了解决更多商家对团购营销的急迫需求,骏商网络提出团购3.0的全新概念,并在购团网上实现了部分发布团需的功能。 骏商团购导航程序(仿360团购平台)Beta1.0实现功能: 1、自动采集,更新,自动匹配分类 2、能针对主流团

下载

立即学习Python免费学习笔记(深入)”;

  • 每个await session.get()外层套try/except aiohttp.ClientError
  • 检查resp.status,非2xx时主动raise Exception(f"HTTP {resp.status}")
  • 重试建议用tenacity库(支持async),或手写带指数退避的async def fetch_with_retry()
  • 记录失败URL和原因,方便事后排查,别只打印然后跳过

完整最小可运行示例

以下代码实现10个并发请求,每秒最多5个,带基础错误处理:

import asyncio
import aiohttp
<p>async def fetch(session, url, sem):
async with sem:
try:
async with session.get(url, timeout=5) as resp:
if resp.status == 200:
return await resp.text()
else:
raise Exception(f"HTTP {resp.status}")
except Exception as e:
return f"ERROR: {url} → {e}"</p><p>async def main():
urls = ["<a href="https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c">https://www.php.cn/link/5f69e19efaba426d62faeab93c308f5c</a>"] <em> 20
sem = asyncio.Semaphore(5)
async with aiohttp.ClientSession() as session:
tasks = [fetch(session, url, sem) for url in urls]
results = await asyncio.gather(</em>tasks, return_exceptions=True)
print(f"完成 {len(results)} 个请求")</p><p>asyncio.run(main())</p>

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

452

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

546

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

330

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

81

2025.09.10

session失效的原因
session失效的原因

session失效的原因有会话超时、会话数量限制、会话完整性检查、服务器重启、浏览器或设备问题等等。详细介绍:1、会话超时:服务器为Session设置了一个默认的超时时间,当用户在一段时间内没有与服务器交互时,Session将自动失效;2、会话数量限制:服务器为每个用户的Session数量设置了一个限制,当用户创建的Session数量超过这个限制时,最新的会覆盖最早的等等。

334

2023.10.17

session失效解决方法
session失效解决方法

session失效通常是由于 session 的生存时间过期或者服务器关闭导致的。其解决办法:1、延长session的生存时间;2、使用持久化存储;3、使用cookie;4、异步更新session;5、使用会话管理中间件。

774

2023.10.18

cookie与session的区别
cookie与session的区别

本专题整合了cookie与session的区别和使用方法等相关内容,阅读专题下面的文章了解更详细的内容。

97

2025.08.19

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

743

2023.08.10

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

4

2026.03.05

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.8万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号