0

0

Python multiprocessing 如何在子进程里正确使用 logging

舞夢輝影

舞夢輝影

发布时间:2026-01-17 22:18:09

|

748人浏览过

|

来源于php中文网

原创

python多进程日志需子进程独立配置,推荐用queuehandler+queuelistener实现主进程集中写入,避免文件竞争;调试时可用带pid的文件名或streamhandler。

python multiprocessing 如何在子进程里正确使用 logging

在 Python 的 multiprocessing 中,子进程默认不继承主进程的 logging 配置,直接使用 logging.info() 等可能无输出、报错,甚至导致进程卡死。关键在于:每个进程需独立配置 logger,且避免多个进程同时写入同一文件引发竞争或损坏。

为每个子进程单独初始化 logging

子进程中不能依赖主进程的 logger 配置。应在子进程函数开头主动调用 logging.basicConfig() 或获取 root logger 后添加 handler:

  • 推荐方式:在子进程入口函数(如 worker())第一行配置 logging,确保每次启动都干净初始化
  • 避免在模块顶层或 if __name__ == '__main__': 外配置 —— 子进程会重新执行模块,但此时 basicConfig() 可能因已存在 handler 而静默失败
  • 若用 logging.getLogger(),记得清除已有 handler:logger.handlers.clear(),再添加新 handler

避免多进程写同一个日志文件

多个子进程直接往同一个文件 FileHandler 写日志,会导致内容错乱、丢失甚至文件损坏。可行方案有:

易森网络企业版
易森网络企业版

如果您是新用户,请直接将本程序的所有文件上传在任一文件夹下,Rewrite 目录下放置了伪静态规则和筛选器,可将规则添加进IIS,即可正常使用,不用进行任何设置;(可修改图片等)默认的管理员用户名、密码和验证码都是:yeesen系统默认关闭,请上传后登陆后台点击“核心管理”里操作如下:进入“配置管理”中的&ld

下载
  • 给每个进程的日志文件加唯一后缀,例如用 os.getpid()current_process().pidFileHandler(f'app_{os.getpid()}.log')
  • 统一由主进程接收日志消息(通过 QueueHandler + QueueListener),实现集中写入 —— 这是最健壮的生产级方案
  • 临时调试可用 StreamHandler(sys.stderr),输出到控制台(注意 Windows 下可能仍需设置 sys.stderr.reconfigure() 或避免编码问题)

使用 QueueHandler 实现安全集中日志

这是官方推荐的多进程日志最佳实践:子进程只发日志消息,主进程专用线程监听并写入文件。

立即学习Python免费学习笔记(深入)”;

  • 主进程创建 multiprocessing.Queue()QueueListener,传入 file handler 并启动监听
  • 子进程获取 logger,移除默认 handler,添加 QueueHandler(queue)
  • 注意:QueueListener 必须在 if __name__ == '__main__': 块中启动,且不能在子进程中重复创建
  • 示例关键代码:listener = QueueListener(queue, FileHandler('all.log'))listener.start();子进程里 logger.addHandler(QueueHandler(queue))

其他实用细节

有些小问题容易踩坑,提前注意可省去大量调试时间:

  • Windows 下 spawn 方式启动子进程时,模块会重新导入 —— 所有 logging 配置逻辑必须放在函数内,不要放模块全局作用域
  • 使用 concurrent.futures.ProcessPoolExecutor 时同样适用上述规则,子任务函数内需自行初始化 logging
  • 若用 RotatingFileHandler,多个进程无法安全共用,必须配合 Queue 或按进程分文件
  • 日志格式建议包含进程 ID:%(process)d%(processName)s,便于区分来源

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
if什么意思
if什么意思

if的意思是“如果”的条件。它是一个用于引导条件语句的关键词,用于根据特定条件的真假情况来执行不同的代码块。本专题提供if什么意思的相关文章,供大家免费阅读。

846

2023.08.22

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1496

2023.07.26

查看端口占用情况windows
查看端口占用情况windows

端口占用是指与端口关联的软件占用端口而使得其他应用程序无法使用这些端口,端口占用问题是计算机系统编程领域的一个常见问题,端口占用的根本原因可能是操作系统的一些错误,服务器也可能会出现端口占用问题。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

1170

2023.07.27

windows照片无法显示
windows照片无法显示

当我们尝试打开一张图片时,可能会出现一个错误提示,提示说"Windows照片查看器无法显示此图片,因为计算机上的可用内存不足",本专题为大家提供windows照片无法显示相关的文章,帮助大家解决该问题。

835

2023.08.01

windows查看端口被占用的情况
windows查看端口被占用的情况

windows查看端口被占用的情况的方法:1、使用Windows自带的资源监视器;2、使用命令提示符查看端口信息;3、使用任务管理器查看占用端口的进程。本专题为大家提供windows查看端口被占用的情况的相关的文章、下载、课程内容,供大家免费下载体验。

463

2023.08.02

windows无法访问共享电脑
windows无法访问共享电脑

在现代社会中,共享电脑是办公室和家庭的重要组成部分。然而,有时我们可能会遇到Windows无法访问共享电脑的问题。这个问题可能会导致数据无法共享,影响工作和生活的正常进行。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2361

2023.08.08

windows自动更新
windows自动更新

Windows操作系统的自动更新功能可以确保系统及时获取最新的补丁和安全更新,以提高系统的稳定性和安全性。然而,有时候我们可能希望暂时或永久地关闭Windows的自动更新功能。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

874

2023.08.10

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

3

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.9万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号