0

0

Python 如何实现一个简单的带锁的 LRU 缓存(线程安全)

舞夢輝影

舞夢輝影

发布时间:2026-01-18 20:07:13

|

547人浏览过

|

来源于php中文网

原创

线程安全的LRU缓存可通过四种方式实现:一、用threading.Lock封装OrderedDict;二、用锁装饰器代理functools.lru_cache;三、改用threading.RLock防自调用死锁;四、用单线程ThreadPoolExecutor异步封装。

python 如何实现一个简单的带锁的 lru 缓存(线程安全)

如果您需要在多线程环境中使用 LRU 缓存,且要求读写操作互斥以避免状态不一致,则必须引入同步机制。以下是实现一个线程安全的带锁 LRU 缓存的多种方法:

一、使用 threading.Lock 封装 OrderedDict

该方法基于 Python 标准库中的 collections.OrderedDict 实现 LRU 逻辑,并通过显式加锁保证所有缓存操作的原子性。每次访问(get)、更新(put)或删除(popitem)均需获取锁,确保同一时刻仅有一个线程修改内部状态。

1、导入所需模块:from collections import OrderedDictimport threading

2、定义类并初始化 self._cache = OrderedDict()self._lock = threading.Lock()

立即学习Python免费学习笔记(深入)”;

3、在 get 方法中:调用 self._lock.acquire(),检查 key 是否存在,若存在则调用 move_to_end() 更新顺序,再释放锁。

4、在 put 方法中:同样先获取锁,判断是否已满,若满则调用 popitem(last=False) 移除最久未用项,然后设置新键值对并调用 move_to_end(),最后释放锁。

二、继承 functools.lru_cache 并添加锁代理

该方法不直接修改 functools.lru_cache 内部实现(因其为 C 扩展且不可直接加锁),而是将其作为底层缓存引擎,在函数调用入口和出口处统一加锁。适用于缓存目标为纯函数计算结果的场景,将线程安全逻辑与缓存逻辑分离。

1、定义一个装饰器函数,内部创建 threading.RLock()(可重入锁,支持同一线程多次 acquire)。

2、装饰器包裹原函数,在每次调用前执行 lock.acquire(),调用结束后执行 lock.release()

3、对目标函数应用 @functools.lru_cache(maxsize=128),再叠加该锁装饰器。

智川X-Agent
智川X-Agent

中科闻歌推出的一站式AI智能体开发平台

下载

4、确保被装饰函数无副作用,否则锁粒度可能导致性能瓶颈或死锁风险。

三、使用 threading.RLock 替代 Lock 防止自调用死锁

当缓存的 get 或 put 方法内部可能间接触发另一轮缓存操作(例如通过回调或嵌套调用),使用普通 threading.Lock 会导致同一线程重复 acquire 而阻塞。此时应改用可重入锁,允许同一线程多次获取而不阻塞,同时仍能阻止其他线程并发进入临界区。

1、将初始化语句改为 self._lock = threading.RLock()

2、保持原有 get/put 方法结构不变,但所有 acquire()release() 调用均作用于该 RLock 实例。

3、在 put 方法中若存在触发 get 的逻辑(如缓存穿透时回源并写入),无需额外规避,RLock 自动处理嵌套持有。

四、基于 concurrent.futures.ThreadPoolExecutor 的异步封装方案

该方法将缓存操作提交至单线程的线程池执行,利用线程池的串行化能力替代显式锁。适用于希望规避手动锁管理复杂性的场景,尤其适合 I/O 密集型缓存回源逻辑,但会引入轻微调度开销。

1、初始化时创建 self._executor = ThreadPoolExecutor(max_workers=1)

2、将 get 和 put 方法重构为返回 concurrent.futures.Future 对象的异步接口。

3、在方法体内调用 self._executor.submit(self._sync_get, key) 或类似方式,将实际逻辑委托给私有同步方法。

4、调用方需使用 future.result() 获取结果,该调用会阻塞直至任务完成。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

WorkBuddy
WorkBuddy

腾讯云推出的AI原生桌面智能体工作台

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

1925

2023.10.19

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

656

2025.10.17

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2395

2025.12.29

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

47

2026.01.19

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

765

2023.08.10

Python 多线程与异步编程实战
Python 多线程与异步编程实战

本专题系统讲解 Python 多线程与异步编程的核心概念与实战技巧,包括 threading 模块基础、线程同步机制、GIL 原理、asyncio 异步任务管理、协程与事件循环、任务调度与异常处理。通过实战示例,帮助学习者掌握 如何构建高性能、多任务并发的 Python 应用。

377

2025.12.24

java多线程相关教程合集
java多线程相关教程合集

本专题整合了java多线程相关教程,阅读专题下面的文章了解更多详细内容。

32

2026.01.21

C++多线程相关合集
C++多线程相关合集

本专题整合了C++多线程相关教程,阅读专题下面的的文章了解更多详细内容。

29

2026.01.21

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

76

2026.03.11

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Django 教程
Django 教程

共28课时 | 4.9万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号