0

0

C++如何实现线程安全的LRU缓存?(读写锁保护)

裘德小鎮的故事

裘德小鎮的故事

发布时间:2026-02-26 11:47:02

|

667人浏览过

|

来源于php中文网

原创

使用 std::shared_mutex 保护 lru 缓存可提升读多写少场景吞吐,get() 用 shared_lock 仅读查,未命中时释放后以 unique_lock 写入;须用 splice() 维持 list 迭代器有效,并先取尾节点 key 再删哈希表与 list。

c++如何实现线程安全的lru缓存?(读写锁保护)

std::shared_mutex 保护读多写少的 LRU 缓存

LRU 缓存天然适合读多写少场景,std::shared_mutex(C++17 起)能让你的 get() 并发执行、put() 独占操作,比全用 std::mutex 吞吐高得多。别用 std::shared_timed_mutex——它在多数标准库实现里性能更差,且已被 C++20 标记为 deprecated。

常见错误是把整个 get() 逻辑包进 shared_lock:比如查不到就去构造值再写入——这会触发写操作,但 shared_lock 不允许写,结果要么死锁,要么编译失败。正确做法是:只用 shared_lock 做“查+返回”,写操作必须升为 unique_lock。

  • get() 开头用 std::shared_lock<:shared_mutex></:shared_mutex>,仅读 m_cachem_lru_order
  • 查不到时立刻释放 shared_lock,再用 std::unique_lock<:shared_mutex></:shared_mutex> 重试并写入
  • 避免在锁内调用可能阻塞或抛异常的用户代码(如网络 IO、构造耗时对象)

list 迭代器失效?别直接存 std::list::iterator 到哈希表

LRU 的核心是快速移动节点到头部,常用 std::list 存键值对,哈希表(std::unordered_map)存键 → 迭代器映射。但 std::list 迭代器在 list 本身不被销毁的前提下是稳定的——这点没错,可一旦你用 splice() 把节点从中间移到头部,迭代器依然有效;但若用 erase() + push_front(),旧迭代器就失效了。

所以必须用 splice(),而不是删再插:

立即学习C++免费学习笔记(深入)”;

WOMBO
WOMBO

使用AI创作美丽的艺术品

下载
auto it = m_lru_order.begin();
m_lru_order.splice(m_lru_order.begin(), m_lru_order, it); // ✅ 安全,it 仍有效
  • 哈希表 value 类型应为 std::list<node>::iterator</node>,不是指针或索引
  • 每次 get() 后必须 splice() 到 front,不能只改哈希表里的值
  • 注意 splice() 第一个参数是目标位置,第二个是源 list,第三个是源迭代器——顺序错会导致静默错误

容量超限时,erase() 必须和 pop_back() 配合使用

缓存满时要踢掉最久未用项(m_lru_order.back()),但只删 list 不够:你还得从哈希表里同步删除对应键。漏删会导致哈希表持续膨胀,甚至后续 get() 查到已失效的迭代器,解引用崩溃。

典型错误是先 pop_back() 再从哈希表里找 key 删除——但 list 节点已丢,你根本拿不到它的 key。正确顺序是:从 list 尾部取节点 → 提取 key → 删哈希表 → 再删 list 节点。

  • 不要依赖 list.back().key —— 如果 Nodestd::pair<k v></k>,那没问题;但若封装成结构体,确保 key 可访问
  • 删哈希表用 erase(key),别用 erase(iterator)——后者需要先 find,多一次哈希查找
  • 如果 Node 析构代价高(如含大 buffer),考虑在 erase 前显式 move 出 value,避免析构延迟

为什么不用 std::shared_mutex 的 try_* 版本?

有人想用 try_shared_lock 避免 get() 阻塞,但实际收益极小:shared_lock 几乎不争抢(除非正有 put 在写),而 try 版本要额外检查返回值、处理失败重试逻辑,反而增加分支预测失败概率和代码复杂度。

真正该加 try 的地方是写操作中的“先读后写”竞争:比如 put() 检查是否已存在,若存在则更新值而非插入。这时可以用 try_unique_lock 配合短超时,避免长等;但大多数业务场景下,直接阻塞更简单可靠。

  • 99% 的 LRU 使用场景里,shared_lock 不会成为瓶颈,别过早优化
  • try_* 适合有明确 SLA 要求的实时系统,普通服务用默认阻塞语义更稳
  • 注意:Windows 上 MSVC 的 std::shared_mutex 实现曾有性能问题,Clang/GCC 更成熟;若需跨平台且用旧 Windows,考虑封装一层 spin-based fallback

最难缠的不是锁怎么加,而是节点生命周期和迭代器有效性混在一起——稍不注意,splice() 没做对,或者删 list 和删 map 顺序颠倒,core dump 就在下一秒。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

385

2025.06.09

golang结构体方法
golang结构体方法

本专题整合了golang结构体相关内容,请阅读专题下面的文章了解更多。

200

2025.07.04

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

721

2023.08.10

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

77

2025.09.05

golang map相关教程
golang map相关教程

本专题整合了golang map相关教程,阅读专题下面的文章了解更多详细内容。

36

2025.11.16

golang map原理
golang map原理

本专题整合了golang map相关内容,阅读专题下面的文章了解更多详细内容。

67

2025.11.17

java判断map相关教程
java判断map相关教程

本专题整合了java判断map相关教程,阅读专题下面的文章了解更多详细内容。

46

2025.11.27

windows查看端口占用情况
windows查看端口占用情况

Windows端口可以认为是计算机与外界通讯交流的出入口。逻辑意义上的端口一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。怎么查看windows端口占用情况呢?php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1282

2023.07.26

batoto漫画官网入口与网页版访问指南
batoto漫画官网入口与网页版访问指南

本专题系统整理batoto漫画官方网站最新可用入口,涵盖最新官网地址、网页版登录页面及防走失访问方式说明,帮助用户快速找到batoto漫画官方平台,稳定在线阅读各类漫画内容。

331

2026.02.25

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 10.2万人学习

C 教程
C 教程

共75课时 | 5万人学习

C++教程
C++教程

共115课时 | 19.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号