python http请求性能优化核心是复用连接(session)、控制dns缓存、精简tls握手、采用异步方案(如aiohttp或httpx),并避免同步阻塞混用。

Python 发起 HTTP 请求时,性能瓶颈常出现在连接建立、DNS 解析、SSL 握手和响应等待等环节。优化核心是减少重复开销、复用资源、控制并发与合理超时。
复用连接:用 Session 替代 requests.get/post
每次调用 requests.get() 都会新建 TCP 连接(含 DNS 查询 + 三次握手 + TLS 握手),开销大。使用 requests.Session() 可自动复用底层连接(HTTP/1.1 Keep-Alive)和连接池,显著降低延迟。
建议:
- 对同一域名的多次请求,务必复用一个 Session 实例
- 可配置连接池大小:
Session().mount('https://', HTTPAdapter(pool_connections=10, pool_maxsize=20)) - 避免在循环内反复创建 Session
控制 DNS 缓存与预解析
默认情况下,requests 不缓存 DNS 结果,高频请求同一域名时可能频繁触发 DNS 查询。可通过以下方式缓解:
立即学习“Python免费学习笔记(深入)”;
- 启用系统级 DNS 缓存(如 Linux 的 systemd-resolved 或 macOS 的 mDNSResponder)
- 使用
urllib3.util.connection.create_connection配合自定义 resolver,或借助dnspython提前解析并传入 IP(需注意 SNI 和证书校验兼容性) - 对于固定后端服务,直接在 URL 中使用 IP + Host Header(
headers={'Host': 'example.com'}),跳过 DNS
精简 SSL/TLS 开销
HTTPS 请求中,TLS 握手耗时占比高,尤其首次连接。优化方向包括:
- 禁用不必要的安全特性(仅限可信内网):设置
verify=False跳过证书验证(不推荐生产环境) - 复用 TLS 会话票据(Session Ticket):requests + urllib3 默认支持,无需额外代码
- 升级到 TLS 1.3(需 Python 3.8+、OpenSSL 1.1.1+),减少握手往返次数
- 避免频繁更换 User-Agent 或其他导致连接池无法复用的 headers
异步请求替代同步阻塞
当需并发发起大量请求(如爬虫、API 批量调用),同步串行或线程池效率低。推荐使用异步方案:
-
aiohttp:轻量、原生支持连接池、DNS 缓存、TCPConnector 配置灵活 -
httpx:同时支持 sync/async,API 类似 requests,内置连接池和 HTTP/2 支持(需额外配置) - 避免 asyncio + requests 混用(requests 是同步阻塞库,会阻塞事件循环)
不复杂但容易忽略。关键不是换库,而是理解每层开销在哪,再针对性约束或复用。











