0

0

Python multiprocessing 如何绕过 GIL?

冷漠man

冷漠man

发布时间:2026-01-18 08:13:02

|

342人浏览过

|

来源于php中文网

原创

multiprocessing能实现并行是因为它启动独立进程,每个进程拥有自己的Python解释器和GIL,从而绕过单进程内GIL对多线程CPU并行的限制;适用于CPU密集型任务,需注意IPC开销、主模块保护及启动方法选择。

python multiprocessing 如何绕过 gil?

Python 的 multiprocessing 本身不“绕过”GIL,而是**根本不用 GIL**——它通过启动独立进程(而非线程),让每个进程拥有自己的 Python 解释器和独立的 GIL,从而实现真正的并行计算。

为什么 multiprocessing 能实现并行?

CPython 的 GIL(全局解释器锁)只在单个进程中限制多线程的 CPU 并行执行。multiprocessing 模块通过 fork(Unix/Linux/macOS)或 spawn(Windows,默认)方式创建全新进程,每个子进程:

  • 拥有独立的内存空间和 Python 运行时环境
  • 各自持有一个专属的 GIL(互不影响)
  • 可同时在不同 CPU 核心上执行 CPU 密集型任务

实际使用的关键点

要真正获得并行收益,需注意以下几点:

  • 任务类型要匹配:适合 CPU 密集型工作(如数值计算、图像处理、加密)。I/O 密集型任务用 threading 或 asyncio 更合适
  • 避免频繁跨进程传递大数据:进程间通信(IPC)有开销,推荐用 QueuePipe 或共享内存(Value/Array)优化
  • 主模块保护:Windows 和部分 spawn 启动方式下,必须将入口代码放在 if __name__ == '__main__': 块中,防止子进程递归启动
  • 合理选择启动方法:可通过 mp.set_start_method('spawn')'forkserver' 控制进程创建方式,影响性能与兼容性

一个典型例子

计算多个大数的斐波那契值(CPU 密集):

腾讯交互翻译
腾讯交互翻译

腾讯AI Lab发布的一款AI辅助翻译产品

下载

立即学习Python免费学习笔记(深入)”;

import multiprocessing as mp
import time
<p>def fib(n):
if n <= 1:
return n
return fib(n-1) + fib(n-2)</p><p>if <strong>name</strong> == '<strong>main</strong>':
nums = [35, 36, 37, 38]
start = time.time()
with mp.Pool() as pool:
results = pool.map(fib, nums)
print(f"并行耗时: {time.time() - start:.2f}s")

相比单进程串行执行,4 个核心上运行通常能接近 4 倍加速(忽略 IPC 和调度开销)。

它不是万能的

multiprocessing 不能解决所有并发问题:

  • 进程创建和销毁开销比线程大
  • 无法直接共享对象状态(如类实例、列表引用),需显式同步或序列化
  • 调试更复杂,日志和异常传播不如单进程直观

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

847

2023.08.22

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

377

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

32

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

29

2026.01.21

C# 多线程与异步编程
C# 多线程与异步编程

本专题深入讲解 C# 中多线程与异步编程的核心概念与实战技巧,包括线程池管理、Task 类的使用、async/await 异步编程模式、并发控制与线程同步、死锁与竞态条件的解决方案。通过实际项目,帮助开发者掌握 如何在 C# 中构建高并发、低延迟的异步系统,提升应用性能和响应速度。

103

2026.02.06

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1496

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1170

2023.07.27

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

76

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 10.6万人学习

Git 教程
Git 教程

共21课时 | 4.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号