0

0

Python并发编程让脚本性能提升十倍的实际技巧【教学】

舞夢輝影

舞夢輝影

发布时间:2025-12-18 16:59:02

|

706人浏览过

|

来源于php中文网

原创

python并发性能提升关键在于匹配任务类型:i/o密集用asyncio,cpu密集用multiprocessing,混合任务需拆分处理;识别“等”或“算”是优化起点,避免gil陷阱与盲目并发。

python并发编程让脚本性能提升十倍的实际技巧【教学】

Python并发编程不是靠堆线程或进程数量,而是选对模型、避开GIL陷阱、减少等待时间。真正提升十倍性能的关键,在于匹配任务类型——I/O密集用asyncio或threading,CPU密集必须上multiprocessing,再配合合理调度和资源控制。

识别任务类型:先分清是“等”还是“算”

这是所有优化的起点。I/O密集型(比如发HTTP请求、读写文件、数据库查询)大部分时间在等响应,CPU几乎空闲;CPU密集型(比如数值计算、图像处理、加密解密)则持续占用CPU核心。

  • time.time()粗略测:如果脚本总耗时中,CPU使用率长期低于30%,大概率是I/O密集
  • psutil.cpu_percent(interval=1)实时观察,对比单任务和多任务下的波动
  • 别凭感觉判断——下载100个网页看着慢,其实是I/O密集;但用Python做矩阵乘法慢,就是CPU密集

I/O密集任务:优先用asyncio,别急着开线程

asyncio在单线程内通过事件循环调度协程,开销远低于线程,且无锁竞争问题。requests不支持异步?换httpxaiohttp就行。

  • 把阻塞调用全换成async版本:比如await httpx.AsyncClient().get(url)
  • 并发数别盲目设高,通常10–100足够;太多反而触发服务端限流或本地端口耗尽
  • 加简单错误重试+退避:asyncio.sleep(0.1 * (2 ** attempt)),避免雪崩

CPU密集任务:multiprocessing是唯一正解

threading在CPU密集场景几乎无效——CPython的GIL会让多线程变成轮流执行。必须用multiprocessing真正并行,但要注意数据传递成本。

简单听记
简单听记

百度网盘推出的一款AI语音转文字工具

下载

立即学习Python免费学习笔记(深入)”;

  • concurrent.futures.ProcessPoolExecutor比原始Process更易管理
  • 函数必须可序列化(不能是lambda或嵌套函数),参数尽量轻量;大数组用shared_memorynumpy.memmap
  • 进程数建议设为os.cpu_count() - 1,留一个核给系统和其他任务

混合任务:拆开处理,别混在一起跑

真实脚本常既有网络请求又有本地计算(比如下载图片→缩略图处理)。强行用一种并发模型会拖垮整体效率。

  • 先用asyncio批量下载,保存到临时目录
  • 再用ProcessPoolExecutor批量处理本地文件
  • 中间结果用文件或Redis暂存,避免进程间传大量数据
  • 必要时用asyncio.to_thread()(Py3.9+)包裹短时阻塞操作,不阻塞事件循环

基本上就这些。没有银弹,但只要分清任务性质、选对工具、控住并发度,十倍提升不是夸张——很多脚本卡在串行等API响应,一改成asyncio,耗时直接从2分钟降到12秒。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
lambda表达式
lambda表达式

Lambda表达式是一种匿名函数的简洁表示方式,它可以在需要函数作为参数的地方使用,并提供了一种更简洁、更灵活的编码方式,其语法为“lambda 参数列表: 表达式”,参数列表是函数的参数,可以包含一个或多个参数,用逗号分隔,表达式是函数的执行体,用于定义函数的具体操作。本专题为大家提供lambda表达式相关的文章、下载、课程内容,供大家免费下载体验。

212

2023.09.15

python lambda函数
python lambda函数

本专题整合了python lambda函数用法详解,阅读专题下面的文章了解更多详细内容。

192

2025.11.08

Python lambda详解
Python lambda详解

本专题整合了Python lambda函数相关教程,阅读下面的文章了解更多详细内容。

58

2026.01.05

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

419

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

594

2023.08.10

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

675

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

366

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

25

2026.01.21

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

561

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.4万人学习

Django 教程
Django 教程

共28课时 | 4.4万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号