0

0

如何实现一个线程安全的LRU缓存_利用ConcurrentHashMap与双向链表的组合

P粉602998670

P粉602998670

发布时间:2026-03-02 11:18:12

|

408人浏览过

|

来源于php中文网

原创

线程安全的lru缓存需分离职责:用concurrenthashmap管理key-value映射,用单独reentrantlock保护双向链表结构调整(如movetohead、removetail),确保“查、移、插、删”原子联动,且节点字段用volatile修饰,避免npe与容量失控。

如何实现一个线程安全的lru缓存_利用concurrenthashmap与双向链表的组合

为什么 ConcurrentHashMap + 双向链表不能直接线程安全

直接在 ConcurrentHashMap 外套一层 ReentrantLock 锁整个操作,或者只靠 ConcurrentHashMap 的分段锁,都拦不住 LRU 的“读-改-写”竞态:比如 get() 命中后要挪动节点到链表头,这个动作涉及链表指针更新和 map 中 value 的替换——两个结构要原子联动,而 ConcurrentHashMap 根本不感知你的链表。

常见错误现象:NullPointerException 在遍历链表时出现,或缓存容量失控(实际 size > maxCapacity),本质是 removeEldestEntry() 判断和节点删除没对齐,多个线程同时触发淘汰逻辑导致链表断裂。

  • 必须把“查、移、插、删”这四个动作收进同一个锁作用域,且锁粒度不能太大(否则吞吐暴跌)
  • 不要复用 ConcurrentHashMapcomputeIfAbsent() 做缓存加载——它只保证 map 操作原子,不管链表
  • 链表节点的 prev/next 字段必须用 volatile 修饰,否则一个线程改了指针,另一个线程看不到最新值

如何设计最小可行的线程安全节点与锁范围

核心是把锁从“整个 cache”下沉到“单个 key 对应的节点操作”,但又不能每个节点一把锁(死锁风险高)。稳妥做法是:用一个 ReentrantLock 控制所有链表结构调整(moveToHead()removeTail()),再用 ConcurrentHashMap 独立管理 key-value 映射。两者职责分离,锁只管顺序,map 只管查找。

使用场景:高并发读多写少,但偶尔有 put/get 触发淘汰 —— 这时链表调整是瓶颈,不是 map 查找。

  • Node 类里 keyvalueprevnext 全部声明为 finalvolatile;避免构造中途被其他线程引用
  • 淘汰逻辑(removeTail())必须在锁内完成:先从链表解绑节点,再调 map.remove(key),顺序不能反
  • 不要在锁内做任何可能阻塞的操作,比如远程调用、文件 IO、或慢的 toString()

ConcurrentHashMap 的 compute 方法怎么用才不出错

computeIfAbsent() 看似方便,但它执行的 lambda 是在 map 内部加锁期间运行的,一旦你在里面操作外部链表(比如 moveToHead()),就会形成“map 锁 → 链表锁”的依赖,极易死锁。正确姿势是:只用它做纯 map 层的插入,链表调整一律放到锁保护的临界区里统一处理。

UXbot
UXbot

AI产品设计工具

下载

参数差异:computeIfPresent()compute() 同样危险,只要 lambda 里碰链表就踩坑。

  • 安全写法:先 map.get(key) 尝试获取,命中则进链表锁块做 moveToHead();未命中则自己 new Node,再进锁块做 addToHead() + map.put()
  • 绝对不要在 computeXxx() 的 lambda 里调用任何含锁方法,包括你自己写的 synchronized
  • 如果用了 StampedLock,注意它的乐观读模式下无法保证链表结构一致性,仍需悲观写锁兜底

容易被忽略的 reference 泄漏与 GC 问题

双向链表节点长期持有 keyvalue 强引用,而 ConcurrentHashMap 本身又持有一份,导致即使业务层已无引用,节点仍无法被回收。更隐蔽的是:如果 value 是大对象(如 byte[]、Bitmap),缓存不及时清理会快速 OOM。

性能影响:频繁 GC 会拖慢吞吐,尤其在堆内存紧张时,CMS 或 G1 可能触发 full GC。

  • 考虑用 WeakReference<v></v> 包装 value,但注意:弱引用一碰 GC 就丢,不适合必须常驻的缓存项
  • 更实用的是加 expireAfterWrite(5, TimeUnit.MINUTES)(配合 ExpiringMap 或自研 TTL 字段),比纯 LRU 更可控
  • 务必重写 Nodefinalize()(不推荐)或用 Cleaner 注册清理钩子,确保链表断开时释放关联资源

真正难的不是写出来,是让链表指针更新和 map 更新在任意并发节奏下都不撕裂 —— 这要求你对每行锁的起止位置、每个引用的生命周期,都看得见摸得着。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
c++中volatile关键字的作用
c++中volatile关键字的作用

本专题整合了c++中volatile关键字的相关内容,阅读专题下面的文章了解更多详细内容。

75

2025.10.23

lambda表达式
lambda表达式

Lambda表达式是一种匿名函数的简洁表示方式,它可以在需要函数作为参数的地方使用,并提供了一种更简洁、更灵活的编码方式,其语法为“lambda 参数列表: 表达式”,参数列表是函数的参数,可以包含一个或多个参数,用逗号分隔,表达式是函数的执行体,用于定义函数的具体操作。本专题为大家提供lambda表达式相关的文章、下载、课程内容,供大家免费下载体验。

214

2023.09.15

python lambda函数
python lambda函数

本专题整合了python lambda函数用法详解,阅读专题下面的文章了解更多详细内容。

192

2025.11.08

Python lambda详解
Python lambda详解

本专题整合了Python lambda函数相关教程,阅读下面的文章了解更多详细内容。

60

2026.01.05

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

430

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

599

2023.08.10

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

723

2023.08.10

golang map内存释放
golang map内存释放

本专题整合了golang map内存相关教程,阅读专题下面的文章了解更多相关内容。

77

2025.09.05

Golang 测试体系与代码质量保障:工程级可靠性建设
Golang 测试体系与代码质量保障:工程级可靠性建设

Go语言测试体系与代码质量保障聚焦于构建工程级可靠性系统。本专题深入解析Go的测试工具链(如go test)、单元测试、集成测试及端到端测试实践,结合代码覆盖率分析、静态代码扫描(如go vet)和动态分析工具,建立全链路质量监控机制。通过自动化测试框架、持续集成(CI)流水线配置及代码审查规范,实现测试用例管理、缺陷追踪与质量门禁控制,确保代码健壮性与可维护性,为高可靠性工程系统提供质量保障。

48

2026.02.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号