0

0

Python 日志系统设计与实践

冰川箭仙

冰川箭仙

发布时间:2026-01-26 19:22:02

|

523人浏览过

|

来源于php中文网

原创

logging.getLogger() 总返回同一实例,因模块用字典缓存logger名称;子logger自动继承父级handler和level,但propagate=True易致重复输出;多进程需避免共用FileHandler,推荐独立文件或QueueHandler;JSON日志需预处理字段并确保换行。

python 日志系统设计与实践

为什么 logging.getLogger() 返回的总是同一个实例

因为 Python 的 logging 模块内部用字典缓存了所有已创建的 logger 实例,键是 logger 名称。调用 logging.getLogger("a.b.c") 时,如果该名称已存在,就直接返回缓存对象;不存在才新建并缓存。

这导致两个常见误解:

  • 以为多次调用 getLogger() 会新建 logger —— 实际不会,配置需在首次获取后统一设置
  • 子 logger(如 getLogger("a.b.c"))自动继承父 logger("a""a.b")的 handler 和 level,但 propagate=True 是默认行为,容易造成日志重复输出
  • 模块内习惯写 logger = logging.getLogger(__name__),这是推荐做法,能天然形成层级结构,但必须确保根 logger 或上级 logger 已配置 handler,否则日志“发出去却没人收”

Handler 写入失败却不报错的典型原因

FileHandlerRotatingFileHandler 在目录不存在、权限不足、磁盘满等情况下,通常静默失败——日志不写入,也不抛异常,只在内部记录一次 warning 到 logging.lastResort(一个默认的 StreamHandler),而这个 lastResort 默认只在 root logger 未配置 handler 时启用,且输出到 stderr,很容易被忽略。

排查建议:

立即学习Python免费学习笔记(深入)”;

  • 手动检查目标路径是否存在且可写:os.path.isdir(os.path.dirname(log_path)) and os.access(os.path.dirname(log_path), os.W_OK)
  • 显式捕获 handler 初始化异常:try: handler = RotatingFileHandler(...) except OSError as e: print(f"Handler init failed: {e}")
  • 避免依赖 lastResort,始终为 root 或关键 logger 显式添加至少一个可用 handler(如 StreamHandler(sys.stderr)

如何安全地在多进程环境下写同一个日志文件

标准 FileHandler 不支持多进程并发写入,直接共用会导致内容错乱或丢失。Python 官方不提供跨进程安全的内置 handler,必须绕开或封装。

Khroma
Khroma

AI调色盘生成工具

下载

可行方案:

  • 每个进程写独立文件(推荐):用进程 ID 或名称区分,如 app.log.12345,后续用 logrotate 或脚本合并分析
  • QueueHandler + 单独日志进程:主进程将日志 record 发送到 multiprocessing.Queue,由唯一消费者进程用 FileHandler 写入,避免竞争
  • 改用支持原子写入的外部服务:如 syslogSysLogHandler)、redis、或 fluentd 等,把并发压力交给中间件
  • 绝对不要在多进程里直接共享 FileHandler 实例,即使加锁也难保底层 OS write 调用的原子性

JSON 格式日志输出的坑与务实做法

想让每行日志是合法 JSON(便于 ELK、Loki 解析),不能只靠重写 Formatter.format() —— 因为 LogRecord 中的 exc_infostack_info 是元组或字符串,直接 json.dumps() 会失败;且默认字段(如 asctimefuncName)可能含不可序列化对象或特殊字符。

稳妥方式:

  • 继承 logging.Formatter,在 format() 中预处理:把 record.exc_text(已格式化的异常字符串)加入 dict,跳过 record.exc_info 原始元组
  • 对字段做白名单过滤和类型规整:例如 str(getattr(record, 'asctime', ''))record.levelname or 'UNKNOWN'
  • 避免在 format 中调用 traceback.format_exc() 等耗时操作,应在 makeRecord() 或日志产生侧完成
  • 若用第三方库(如 python-json-logger),注意其默认不处理 extra 中的嵌套 dict 或 datetime 对象,仍需自定义 json_default 函数

最易被忽略的一点:日志行末尾必须有换行符,否则多条 JSON 日志会粘连成非法格式——json.dumps(...)+ '\n' 是必须的。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
什么是中间件
什么是中间件

中间件是一种软件组件,充当不兼容组件之间的桥梁,提供额外服务,例如集成异构系统、提供常用服务、提高应用程序性能,以及简化应用程序开发。想了解更多中间件的相关内容,可以阅读本专题下面的文章。

184

2024.05.11

Golang 中间件开发与微服务架构
Golang 中间件开发与微服务架构

本专题系统讲解 Golang 在微服务架构中的中间件开发,包括日志处理、限流与熔断、认证与授权、服务监控、API 网关设计等常见中间件功能的实现。通过实战项目,帮助开发者理解如何使用 Go 编写高效、可扩展的中间件组件,并在微服务环境中进行灵活部署与管理。

226

2025.12.18

json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

457

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

549

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

337

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

82

2025.09.10

python中print函数的用法
python中print函数的用法

python中print函数的语法是“print(value1, value2, ..., sep=' ', end=' ', file=sys.stdout, flush=False)”。本专题为大家提供print相关的文章、下载、课程内容,供大家免费下载体验。

193

2023.09.27

python print用法与作用
python print用法与作用

本专题整合了python print的用法、作用、函数功能相关内容,阅读专题下面的文章了解更多详细教程。

19

2026.02.03

TypeScript类型系统进阶与大型前端项目实践
TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开,深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析,帮助开发者构建类型安全、结构清晰、易维护的前端工程体系,提高团队协作效率与代码质量。

49

2026.03.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 5万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号