0

0

C++如何实现高性能的LRU-K缓存淘汰算法?(数据库缓冲池管理)

穿越時空

穿越時空

发布时间:2026-03-09 13:12:12

|

552人浏览过

|

来源于php中文网

原创

标准std::list + std::unordered_map不适用于lru-k,因其无法高效维护每个key最近k次访问时间戳并按第k次时间排序淘汰;std::list仅支持o(1) lru-1,而lru-k需o(k)随机定位与重排,高频场景成瓶颈。

c++如何实现高性能的lru-k缓存淘汰算法?(数据库缓冲池管理)

为什么标准std::list + std::unordered_map不适用于LRU-K

LRU-K要求记录每个key最近K次访问的时间戳,并按第K次访问时间排序淘汰——不是简单维护“最后一次”,而是维护一个访问历史窗口。用std::list只能高效做LRU-1,插入/更新第K次访问时需随机定位、重排节点,平均O(K)甚至O(N),在缓冲池高频读写场景下会成为瓶颈。

真实数据库缓冲池(如PostgreSQL的clock-sweep变种)几乎不用纯LRU-K,因为K≥2时维护成本陡增;但若业务强依赖访问模式识别(比如预判热点区间),仍需折中实现。

  • 别直接复用LRU-1结构:把std::list节点塞K个时间戳进去,会导致每次访问都要shift数组、内存局部性差
  • K值不宜大于4:K=2已能过滤大量瞬时抖动访问;K>4后命中率提升极小,但链表分裂/合并开销翻倍
  • 必须分离“访问记录”和“数据存储”:热数据实体(如page buffer)不能和访问时间戳耦合,否则缓存驱逐时无法原子释放资源

如何用双哈希表 + 定长环形缓冲区实现O(1)更新

核心是把“第K次访问时间”变成可推导值:对每个key,只存最近K次访问的tick(单调递增计数器),用环形数组+游标管理,新访问覆盖最老一次;第K次访问时间就是环形数组尾部前K-1位的值。

示例结构:

立即学习C++免费学习笔记(深入)”;

Midjourney
Midjourney

当前最火的AI绘图生成工具,可以根据文本提示生成华丽的视觉图片。

下载
struct LruKEntry {
    uint64_t access_ticks[4]; // K=4,固定大小
    size_t cursor = 0;        // 下次写入位置
    bool full = false;        // 是否填满过
};
std::unordered_map<Key, LruKEntry> history_;
std::unordered_map<Key, Value*> data_;
  • 每次get():更新history_[key]的环形数组,不挪动节点,O(1)
  • 淘汰候选计算:只在需要驱逐时,对候选key集合批量算access_ticks[(cursor - K + 1) % K],避免实时维护全局有序队列
  • 注意cursor溢出:用uint64_t当tick,但环形数组索引必须用size_t并取模,否则负数取模行为不一致

淘汰时如何避免全量扫描?用分段热度桶做粗筛

数据库缓冲池常驻数万页,每轮淘汰若遍历全部history_,延迟不可控。实际做法是把key按“第K次访问距今ticks”映射到热度桶(如0–100ms、100–500ms…),只扫最冷的1–2个桶。

关键点:

  • 桶不是精确时间分区,而是用(now - kth_tick) >> shift做快速散列,shift取6–8(对应64–256ms粒度)
  • 淘汰线程定期(如每100次insert后)触发桶重组:把过期桶里的key移到新桶,避免桶内数据永久滞留
  • 绝不依赖std::priority_queue:它底层是vector,每次pop后堆重建O(log N),且无法删除中间元素
  • 如果使用mmap文件页作value存储,淘汰时必须先msync(MS_SYNC)munmap,否则脏页丢失

与生产级缓冲池(如SQLite Pcache)的关键差异点

SQLite的Pcache用clock算法+LRU辅助链表,本质是近似LRU-K的轻量实现:它不存K次时间戳,而用单比特“被访问过”标记+两次扫描周期来模拟K=2效果。C++手写LRU-K真正难的不是逻辑,而是和底层IO协同。

  • 缓存项析构必须异步:Value*指向的buffer可能正被另一个线程read(),需用引用计数+RCU式延迟回收
  • 不要在get()里做磁盘IO:用户调用get()期望O(1),加载缺失页应走单独prefetch()通道
  • 警惕虚假共享:LruKEntry若和其他热字段同cache line,频繁更新cursor会导致多核间line bouncing

真正卡性能的往往不是算法复杂度,而是tick计数器的获取方式——别用std::chrono::steady_clock::now(),改用__rdtsc()clock_gettime(CLOCK_MONOTONIC_COARSE),否则单次get耗时从20ns飙到300ns。

相关文章

数码产品性能查询
数码产品性能查询

该软件包括了市面上所有手机CPU,手机跑分情况,电脑CPU,电脑产品信息等等,方便需要大家查阅数码产品最新情况,了解产品特性,能够进行对比选择最具性价比的商品。

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

439

2023.07.18

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

601

2023.08.10

线程和进程的区别
线程和进程的区别

线程和进程的区别:线程是进程的一部分,用于实现并发和并行操作,而线程共享进程的资源,通信更方便快捷,切换开销较小。本专题为大家提供线程和进程区别相关的各种文章、以及下载和课程。

764

2023.08.10

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

493

2023.08.14

postgresql常用命令
postgresql常用命令

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。本专题为大家提供postgresql相关的文章、下载、课程内容,供大家免费下载体验。

163

2023.10.10

常用的数据库软件
常用的数据库软件

常用的数据库软件有MySQL、Oracle、SQL Server、PostgreSQL、MongoDB、Redis、Cassandra、Hadoop、Spark和Amazon DynamoDB。更多关于数据库软件的内容详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1005

2023.11.02

postgresql常用命令有哪些
postgresql常用命令有哪些

postgresql常用命令psql、createdb、dropdb、createuser、dropuser、l、c、dt、d table_name、du、i file_name、e和q等。更详细的postgresql常用命令,大家可以访问下面的文章。

213

2023.11.16

postgresql常用命令介绍
postgresql常用命令介绍

postgresql常用命令有l、d、d5、di、ds、dv、df、dn、db、dg、dp、c、pset、show search_path、ALTER TABLE、INSERT INTO、UPDATE、DELETE FROM、SELECT等。想了解更多postgresql的相关内容,可以阅读本专题下面的文章。

280

2023.11.20

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

59

2026.03.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C# 教程
C# 教程

共94课时 | 11万人学习

C 教程
C 教程

共75课时 | 5.3万人学习

C++教程
C++教程

共115课时 | 21.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号