0

0

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

聖光之護

聖光之護

发布时间:2025-12-31 18:26:02

|

243人浏览过

|

来源于php中文网

原创

欢迎大家收看《rwkv 社区最新动态》,本期内容收录了 rwkv 社区 2025 年 12 月的最新动态。

12 月动态省流版(TL;DR)

  1. RWKV 模型新闻动态

    • RWKV7-G0b 13.3B 发布
  2. RWKV 学术研究动态

    • RWKV-SKF: A recurrent architecture with state-space and frequency-domain filtering for dissolved oxygen predicting and revealing influencing mechanisms(基于 RWKV 的溶解氧预测,发表于 JCR Q1 分区的 Information Sciences)
    • Robin: RWKV Accelerator using Block Circulant Matrices based on FPGA(基于 FPGA 的 RWKV 加速器,发表于 CCF B 类会议 ICCAD)
    • DME-RWKV: An Interpretable Multimodal Deep Learning Framework for Predicting Anti-VEGF Response in Diabetic Macular Edema(基于 RWKV 的糖尿病黄斑水肿治疗反应预测,发表于 Bioengineering)
    • SemanticBBV: A Semantic Signature for Cross-Program Knowledge Reuse in Microarchitecture Simulation(基于 RWKV 的程序分析与微架构模拟,发表于 ASP-DAC 2026)
    • EG-Net: Edge-Global aware network for accurate skin lesion segmentation(基于 RWKV 的皮肤病变分割,发表于 中科院 2 区期刊 BSPC)
    • AFF-UNet-RWKV: A Lightweight Model for High-Quality Deblurring in Medical Imaging(基于 RWKV 的医学图像去模糊)
    • RWKVSR: Receptance Weighted Key-Value Network for Hyperspectral Image Super-Resolution(基于 RWKV 的高光谱图像超分辨率)
    • LADY: Linear Attention for Autonomous Driving Efficiency without Transformers(基于 RWKV 的端到端自动驾驶)
    • FRWKV: Frequency-Domain Linear Attention for Long-Term Time Series Forecasting(基于 RWKV 的长期时间序列预测)
    • Fourier-RWKV: A Multi-State Perception Network for Efficient Image Dehazing(基于 RWKV 的图像去雾)
  3. RWKV 社区市场活动

    • RWKV 社区举办第二届开发者大会
  4. RWKV 社区项目动态

    • ROSA-soft
    • ROSA-tuning
    • RWKV State Tuning 实战
  5. 特刊:PENG Bo 的 2025 年度总结

RWKV 模型新闻动态

2025 年 11 月 30 日, RWKV7-G0b 13.3B 推理模型开源发布。它基于 RWKV7-G0a4 13.3B 继续训练高质量数据,显著提升各项能力。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

详细报道:RWKV7-G0b 13.3B 发布:RNN 的新一步

RWKV 学术研究动态

RWKV-SKF

  • 论文名称:RWKV-SKF: A recurrent architecture with state-space and frequency-domain filtering for dissolved oxygen predicting and revealing influencing mechanisms
  • 论文链接:https://www.sciencedirect.com/science/article/abs/pii/S0020025525011557
  • 发布日期:2025-12-24

该研究基于 RWKV 架构,提出了 RWKV-SKF 框架,通过融合状态空间卡尔曼滤波与频域傅里叶滤波,有效处理传感器噪声与周期性动态,以提升溶解氧预测精度。实验证明该模型性能优越,并能揭示关键影响机制。

论文发表于 Information Sciences(JCR Q1 分区),在环境监测领域应用表现出色。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

Robin

  • 论文名称:Robin: RWKV Accelerator using Block Circulant Matrices based on FPGA
  • 论文链接:https://ieeexplore.ieee.org/document/11240845
  • 发布日期:2025-11-20

论文介绍了 Robin,一种针对 RWKV 线性注意力模型的 FPGA 加速器软硬件协同设计方案。为了解决 RWKV 在 FPGA 上的存储和计算瓶颈,Robin 在算法层提出了部分块循环矩阵(PBCM)技术来压缩权重并保持精度;在硬件层设计了可配置循环计算核心,利用 DSP 封装策略高效支持循环和标准矩阵运算。实验显示,相比 Tesla A100 GPU,Robin 实现了高达 3.09 倍的吞吐量提升和 7.31 倍的能效提升。

论文效果出色,发表于 CCF B 类会议 ICCAD。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

DME-RWKV

  • 论文名称:DME-RWKV: An Interpretable Multimodal Deep Learning Framework for Predicting Anti-VEGF Response in Diabetic Macular Edema
  • 论文链接:https://www.mdpi.com/2306-5354/13/1/12
  • 发布日期:2025-12-21

本研究基于 RWKV 架构提出了 DME-RWKV 模型,用于预测糖尿病黄斑水肿(DME)患者对抗 VEGF 治疗的反应。该模型融合了 OCT 和超广角成像,并结合因果注意力学习等方法,在生物标志物分割和治疗反应预测任务上均表现出色,具有高精度和可解释性。

论文模型新颖高效,发表于 Bioengineering。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

SemanticBBV

  • 论文名称:SemanticBBV: A Semantic Signature for Cross-Program Knowledge Reuse in Microarchitecture Simulation
  • 论文链接:https://arxiv.org/abs/2512.10231
  • 发布日期:2025-12-11

该论文提出 SemanticBBV,使用轻量级 RWKV 编码器生成语义签名,以解决传统 BBV 无法跨程序重用知识的问题。它通过 Set Transformer 聚合嵌入并联合训练,实现了跨程序性能估计,显著加速了微架构模拟。

论文显著加速了微架构模拟,发表于 ASP-DAC 2026。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

EG-Net

  • 论文名称:EG-Net: Edge-Global aware network for accurate skin lesion segmentation
  • 论文链接:https://www.sciencedirect.com/science/article/abs/pii/S1746809425018142
  • 发布日期:2025-12-01

该研究利用 RWKV 构建边缘-全局特征融合模块,以增强皮肤病变分割的全局上下文建模能力。结合边缘特征提取与通道增强解码器,EG-Net 有效解决了病变边界模糊问题,在多个公开数据集上实现了超越 SOTA 的精度与泛化性。

论文效果出色,发表于中科院 2 区的 BSPC。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

AFF-UNet-RWKV

  • 论文名称:AFF-UNet-RWKV: A Lightweight Model for High-Quality Deblurring in Medical Imaging
  • 论文链接:https://madison-proceedings.com/index.php/aetr/article/view/4338
  • 发布日期:2025-11-20

本文提出的 AFF-UNet-RWKV 模型,通过集成 RWKV-lite 空间混合器来捕获长程空间依赖,并结合 AFF 模块融合编解码器特征,实现了高效的医学图像去模糊。该轻量级模型在 PSNR 和 SSIM 指标上均优于传统方法,展现了优越的恢复性能。

论文在多项指标上均优于传统方法,展现了卓越的恢复性能。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

RWKVSR

  • 论文名称:RWKVSR: Receptance Weighted Key-Value Network for Hyperspectral Image Super-Resolution
  • 论文链接:https://ieeexplore.ieee.org/document/11222729
  • 发布日期:2025-10-30

RWKVSR 引入了 RWKV 架构用于高光谱图像超分辨率,通过线性复杂度模块实现高效全局建模,结合方向可分离 3D 卷积和频域损失优化光谱一致性,在多个数据集上实现最佳性能。

论文在多个数据集上实现最佳性能,效果优异。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

LADY

  • 论文名称:LADY: Linear Attention for Autonomous Driving Efficiency without Transformers
  • 论文链接:https://arxiv.org/abs/2512.15038
  • 发布日期:2025-12-17

该研究基于 RWKV-7 模型提出首个完全线性注意力的端到端自动驾驶框架 LADY。它通过轻量级线性交叉注意力机制,高效融合多帧传感器数据,实现恒定计算与内存开销。实验证明 LADY 在提升规划性能的同时显著降低计算成本,并已在边缘设备部署验证。

论文在提升性能的同时显著降低了计算成本,表现出众。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

FRWKV

  • 论文名称:FRWKV:Frequency-Domain Linear Attention for Long-Term Time Series Forecasting
  • 论文链接:https://arxiv.org/abs/2512.07539
  • 发布日期:2025-12-09

受 RWKV 线性注意力启发,本文提出了 FRWKV 模型,将线性注意力与频域分析相结合,用于长期时间序列预测。该方法在频域中实现 O(T) 复杂度的线性注意力,有效利用频谱信息增强特征表示,在多个基准测试中取得了领先性能。

论文在多个基准测试中取得了领先性能,效果显著。

UXbot
UXbot

AI产品设计工具

下载

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

Fourier-RWKV

  • 论文名称:Fourier-RWKV: A Multi-State Perception Network for Efficient Image Dehazing
  • 论文链接:https://arxiv.org/abs/2512.08161
  • 发布日期:2025-12-09

Fourier-RWKV 通过将 WKV 注意力机制扩展至频域来解决图像去雾问题。该模型融合了空间、频域与语义三种感知状态,以线性复杂度实现了 SOTA 性能,有效平衡了恢复质量与计算效率。

论文以线性复杂度实现了 SOTA 性能,效果非凡。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

社区市场活动

RWKV 社区举办第二届开发者大会

2025 年 12 月 13 日,RWKV 在上海漕河泾举办了主题为《RWKV-8 与未来趋势》的 2025 RWKV DevDay。

十位来自 RWKV 开源社区的重磅嘉宾带来了深度分享,内容涵盖 RWKV-8 的核心 ROSA 机制、并发推理、端侧推理优化、评测方法,以及 RWKV 最新生态进展等多个维度。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

详细报道:RWKV DevDay 2025 圆满落幕,看见 RWKV-8 的无限可能!

RWKV 社区项目动态

ROSA-tuning

ROSA-Tuning将 ROSA 机制与现代大型语言模型相结合,使它们能够仅使用固定长度的注意力窗口来处理任意长的输入,同时实现接近完全全局注意力的性能。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

项目地址:https://github.com/zyaaa-ux/ROSA-Tuning

ROSA-soft

本项目提供了一个强大的、可端到端训练的ROSA(Rapid Online Suffix Automaton)算子实现。我们通过采用直通估计器(STE)框架,使离散的、不可微分的ROSA机制与基于梯度的优化兼容。

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

项目地址:https://github.com/wjie98/rosa_soft

RWKV State Tuning 实战

仅需 8G 显存(一张 4060)即可训练一个可以正常进行 function call,并根据设定内容进行回复的模型!最终训练出的 state 仅 10M,搭载 2.9B 模型,边缘设备也可部署!

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

详细报道:RWKV State Tuning实战:8G显存训练AI助手(带function call)

特刊:PENG Bo 的 2025 年度总结

转自知乎用户 PENG Bo,原文链接:https://www.zhihu.com/question/1974931646080836522/answer/1987541572955416201?share_code=DcUETlkRnH7K&utm_psn=1987588920150618890

谢邀,首先感谢 RWKV 社区的支持,我们刚刚举办了 RWKV8 ROSA 开发者大会

今年我发过的 RWKV 模型(每个参数量都是越新越显著强,请大家记得永远用最新模型)。 模型下载和 GGUF 见:https://huggingface.co/BlinkDL/rwkv7-g1

? RWKV 模型发布列表

模型版本 参数量 文件名
RWKV7-G0b 7.2B rwkv7-g0b-7.2b-20251220-ctx8192.pth
RWKV7-G0a4 7.2B rwkv7-g0a4-7.2b-20251208-ctx8192.pth
RWKV7-G1b 2.9B rwkv7-g1b-2.9b-20251205-ctx8192.pth
RWKV7-G1b 1.5B rwkv7-g1b-1.5b-20251202-ctx8192.pth
RWKV7-G0b 13.3B rwkv7-g0b-13.3b-20251130-ctx8192.pth
RWKV7-G1a4 2.9B rwkv7-g1a4-2.9b-20251118-ctx8192.pth
RWKV7-G0a4 13.3B rwkv7-g0a4-13.3b-20251114-ctx8192.pth
RWKV7-G1a3 2.9B rwkv7-g1a3-2.9b-20251103-ctx8192.pth
RWKV7-G0a3 13.3B rwkv7-g0a3-13.3b-20251031-ctx4096.pth
RWKV7-G0a3 7.2B rwkv7-g0a3-7.2b-20251029-ctx8192.pth
RWKV7-G1a3 1.5B rwkv7-g1a3-1.5b-20251015-ctx8192.pth
RWKV7-G1a2 1.5B rwkv7-g1a2-1.5b-20251005-ctx8192.pth
RWKV7-G0a2 7.2B rwkv7-g0a2-7.2b-20251005-ctx4096.pth
RWKV7-G1a 2.9B rwkv7-g1a-2.9b-20250924-ctx4096.pth
RWKV7-G1a 1.5B rwkv7-g1a-1.5b-20250922-ctx4096.pth
RWKV7-G1a 0.4B rwkv7-g1a-0.4b-20250905-ctx4096.pth
RWKV7-G0a 7.2B rwkv7-g0a-7.2b-20250829-ctx4096.pth
RWKV7b-G1b 0.1B rwkv7b-g1b-0.1b-20250822-ctx4096.pth
RWKV7a-G1b 0.1B rwkv7a-g1b-0.1b-20250819-ctx4096.pth
RWKV7-G1a 0.1B rwkv7-g1a-0.1b-20250728-ctx4096.pth
RWKV7-G0 7.2B rwkv7-g0-7.2b-20250722-ctx4096.pth
RWKV7-G1 2.9B rwkv7-g1-2.9b-20250519-ctx4096.pth
RWKV7-G1 1.5B rwkv7-g1-1.5b-20250429-ctx4096.pth
RWKV7-G1 0.4B rwkv7-g1-0.4b-20250324-ctx4096.pth
RWKV7-G1 0.1B rwkv7-g1-0.1b-20250307-ctx4096.pth
RWKV-7 2.9B RWKV-x070-World-2.9B-v3-20250211-ctx4096.pth
RWKV-7 1.5B RWKV-x070-World-1.5B-v3-20250127-ctx4096.pth
RWKV-7 0.4B RWKV-x070-World-0.4B-v2.9-20250107-ctx4096.pth

受益于数据的进步,模型能力快速提升,例如这是 G0b 13.3B 的发布稿: 点击阅读文章

它在单显卡并行生成几十个网页的效果(看着空白的都实际内容正常,只是留白多,缩小看不到内容):

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

我还没开始真正的大规模蒸馏/刷榜,所以 2026 年的 RWKV 会强非常多,请大家期待。

以及目前在 rwkv.cn 可见 161 篇论文(还有些新的没放上来):

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

在 2026 年,我们会继续推进纯 RNN 的极限。欢迎大家关注 RWKV 官网:

  • RWKV 中国:www.rwkv.cn/
  • RWKV 国际:www.rwkv.com/

此外,您在 Play Store / App Store 外区,可搜索 RWKV chat(源代码在 GitHub),体验 RWKV 端侧离线 app(对话,图像,语音,等等):

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结

效果例子:

RWKV 社区十二月动态:10 篇新论文,Bo 的 2025 总结


? 招聘与技术资源

最后,我们长期招实习生(尤其是 infra、后训练、多模态),不限学历,不限线上线下,只要您有热情+会用 AI,欢迎联系我们(您可以先加 RWKV 的各个 QQ 群,然后在群里说)。

⚡ 快速上手 RWKV 训练(单显卡几 G 显存就能玩):

  • 训练代码目录: RWKV-LM/tree/main/RWKV-v7/train_temp
  • 简化版训练脚本: rwkv7_train_simplified.py
  • CUDA 加速内核: RWKV-CUDA/tree/main/rwkv7_fast_fused
  • Albatross 项目: Albatross

⚠️ 提示:训练 RWKV 时,记得正确初始化,记得只在大矩阵参数做 weight decay。

加入 RWKV 社区

欢迎大家加入 RWKV 社区,可以从 RWKV 中文官网了解 RWKV 模型,也可以加入 RWKV 论坛、QQ 频道和 QQ 群聊,一起探讨 RWKV 模型。

  • ? RWKV 中文文档:https://www.rwkv.cn
  • ? RWKV 论坛:https://community.rwkv.cn/
  • ? QQ 频道:https://pd.qq.com/s/9n21eravc | QQ 交流群:224287095
  • ? BiliBili 视频教程:https://space.bilibili.com/3546689096910933

源码地址:点击下载

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
edge是什么浏览器
edge是什么浏览器

Edge是一款由Microsoft开发的网页浏览器,是Windows 10操作系统中默认的浏览器,其目标是提供更快、更安全、更现代化的浏览器体验。本专题为大家提供edge浏览器相关的文章、下载、课程内容,供大家免费下载体验。

1640

2023.08.21

IE浏览器自动跳转EDGE如何恢复
IE浏览器自动跳转EDGE如何恢复

ie浏览器自动跳转edge的解决办法:1、更改默认浏览器设置;2、阻止edge浏览器的自动跳转;3、更改超链接的默认打开方式;4、禁用“快速网页查看器”;5、卸载edge浏览器;6、检查第三方插件或应用程序等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

394

2024.03.05

如何解决Edge打开但没有标题的问题
如何解决Edge打开但没有标题的问题

若 Microsoft Edge 浏览器打开后无标题(窗口空白或标题栏缺失),可尝试以下方法解决: 重启 Edge:关闭所有窗口,重新启动浏览器。 重置窗口布局:右击任务栏 Edge 图标 → 选择「最大化」或「还原」。 禁用扩展:进入 edge://extensions 临时关闭插件测试。 重置浏览器设置:前往 edge://settings/reset 恢复默认配置。 更新或重装 Edge:检查最新版本,或通过控制面板修复

1021

2025.04.24

function是什么
function是什么

function是函数的意思,是一段具有特定功能的可重复使用的代码块,是程序的基本组成单元之一,可以接受输入参数,执行特定的操作,并返回结果。本专题为大家提供function是什么的相关的文章、下载、课程内容,供大家免费下载体验。

495

2023.08.04

js函数function用法
js函数function用法

js函数function用法有:1、声明函数;2、调用函数;3、函数参数;4、函数返回值;5、匿名函数;6、函数作为参数;7、函数作用域;8、递归函数。本专题提供js函数function用法的相关文章内容,大家可以免费阅读。

166

2023.10.07

github中文官网入口 github中文版官网网页进入
github中文官网入口 github中文版官网网页进入

github中文官网入口https://docs.github.com/zh/get-started,GitHub 是一种基于云的平台,可在其中存储、共享并与他人一起编写代码。 通过将代码存储在GitHub 上的“存储库”中,你可以: “展示或共享”你的工作。 持续“跟踪和管理”对代码的更改。

3324

2026.01.21

页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

484

2023.08.14

http与https有哪些区别
http与https有哪些区别

http与https的区别:1、协议安全性;2、连接方式;3、证书管理;4、连接状态;5、端口号;6、资源消耗;7、兼容性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2769

2024.08.16

Golang 测试体系与代码质量保障:工程级可靠性建设
Golang 测试体系与代码质量保障:工程级可靠性建设

Go语言测试体系与代码质量保障聚焦于构建工程级可靠性系统。本专题深入解析Go的测试工具链(如go test)、单元测试、集成测试及端到端测试实践,结合代码覆盖率分析、静态代码扫描(如go vet)和动态分析工具,建立全链路质量监控机制。通过自动化测试框架、持续集成(CI)流水线配置及代码审查规范,实现测试用例管理、缺陷追踪与质量门禁控制,确保代码健壮性与可维护性,为高可靠性工程系统提供质量保障。

48

2026.02.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PHP课程
PHP课程

共137课时 | 12.8万人学习

JavaScript ES5基础线上课程教学
JavaScript ES5基础线上课程教学

共6课时 | 11.3万人学习

PHP新手语法线上课程教学
PHP新手语法线上课程教学

共13课时 | 1.0万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号