首页 > 新闻 > IT新闻 > 正文

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布

霞舞
发布: 2025-12-02 18:16:02
原创
457人浏览过

欢迎大家收看《rwkv 社区最新动态》,本期内容汇总了 rwkv 社区在 2025 年 11 月的前沿进展与重要事件。

11 月动态速览(TL;DR)

  1. RWKV 模型重要更新

    • 正式发布 RWKV7-G0a3 13.3B:当前全球性能最强的纯 RNN 架构大语言模型
    • PENG Bo 分享对大模型发展范式的深度思考
    • PENG Bo 推出 RWKV7+ROSA 数字翻转任务 Demo,仅用 39564 参数即可处理 60 位数字输入
  2. RWKV 学术研究突破

    • Otter:基于增强 RWKV 的广角小样本动作识别方法,入选 CCF A 类会议 AAAI 2026 Oral
    • WKV-sharing + Random Shuffle RWKV:面向遥感图像全色锐化的高阶建模范式,发表于 CCF A 类会议 NeurIPS 2025
    • SleepRWKVNet:融合双向交互 RWKV 与生理先验驱动损失函数的多模态睡眠分期网络,刊发于中科院二区期刊 BSPC
    • DREAMSTATE:融合扩散模型与 RWKV 的新型状态-参数联合建模框架
    • Evolution Strategies at the Hyperscale:面向 RWKV-7 的超大规模高效微调算法 EGGROLL
    • RawRWKV:首个基于 RWKV 架构的原始图像低光增强框架
    • ASALP:依托 RWKV-EFE 负载预测能力构建的边缘节点资源自适应伸缩系统
    • MRT:混合 RWKV-Transformer 的极高压缩比图像编码架构
    • Bridging Transformers and RWKV:兼顾效率与精度的多模态视频理解新范式
    • Robotic control optimization:基于受容加权强化学习的 RWKV 机器人控制优化方案
  3. RWKV 社区市场亮相

    • RWKV 团队亮相“2025 直通乌镇全球互联网大赛”,斩获人工智能赛道一等奖
    • 受邀出席 XIN 峰会,展示 RWKV 技术落地成果
    • 登陆第 27 届中国国际高新技术成果交易会(高交会)
    • 参加 2025 GOTC 全球开源技术峰会,并在大模型应用分论坛作主题分享
    • 出席 RTE 2025 实时互动技术大会,深入探讨 RWKV 在语音处理中的创新实践
  4. RWKV 2025 生态内容征集大赛|10–11 月投稿汇总及获奖名单揭晓

RWKV 模型新闻动态

RWKV7-G0a3 13.3B 发布:世界最强纯 RNN 大语言模型

2025 年 11 月 1 日,RWKV7-G0a3 13.3B 推理版本正式开源。作为目前全球最先进、推理能力最强的纯循环神经网络(RNN)结构大语言模型,该模型标志着 RWKV 架构在长序列建模与高效推理方向的重大飞跃。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

延伸阅读:RWKV7-G0a3 13.3B 发布:世界最强纯 RNN 大语言模型

更进一步,性能更强的 RWKV7-G0b 13.3B 已完成权重训练并对外发布,官方正式公告即将上线。

PENG Bo 发表关于大模型演进阶段的深度见解

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

Bo 表示:“Ilya 在近期播客中指出,AI 领域正从‘规模化时代’回归‘基础研究时代’。你是否认同这一趋势判断?”

PENG Bo 发布 RWKV7+ROSA 完成数字颠倒任务 Demo

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

详细解读:RWKV7+ROSA 仅凭 39564 参数实现 60 位整数精准反转|四大 ROSA 实验同步公开

RWKV 学术研究动态

Otter

Otter 提出一种专为广角摄像头设计的小样本动作识别新方法,通过增强型 RWKV 架构有效抑制复杂背景干扰。其核心包含复合分割模块(CSM)以聚焦主体区域,以及时间重构模块(TRM)进行双向时序扫描,显著提升模型在真实场景下的鲁棒性与泛化能力。

该工作因技术原创性与实用价值突出,被 AAAI 2026 接收为 Oral 报告

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

WKV-sharing embraced random shuffle RWKV

本研究提出 RS-RWKV——一种面向遥感图像全色锐化的 RWKV 新变体。为克服视觉 RWKV 中固有的单向扫描偏差,作者引入受贝叶斯启发的随机洗牌(Random Shuffle)机制;同时借助 WKV 共享策略实现更高阶的空间-光谱联合建模,在降低延迟的同时大幅提升重建质量,多项基准测试结果达 SOTA。

该成果已发表于顶级会议 NeurIPS 2025

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

SleepRWKVNet

SleepRWKVNet 是一款面向临床睡眠监测的多模态自动分期网络。它采用双向交互式 RWKV(Bi-IFM)模块统一建模 EEG、EOG、EMG 等长程生理信号,并首次引入基于人体睡眠生理规律的序列感知损失函数 PS-Loss,缓解类别极度不均衡问题,显著提升各睡眠阶段判别准确率。

该研究发表于中科院 二区期刊 BSPC

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

DREAMSTATE

DREAMSTATE 创新性地将扩散模型思想引入 RWKV 架构,利用 DiT(Diffusion Transformer)对模型内部隐状态的概率流形进行可控建模,支持细粒度文本生成调控。此外,将静态 WKV 参数视为“结构性噪声”,由 DiT 动态生成适配上下文的参数配置,验证了该混合范式的可行性与扩展潜力。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

Evolution Strategies at the Hyperscale

本文提出 EGGROLL——一种专为 RWKV-7 等超大规模模型设计的演化策略微调算法。通过以低秩扰动替代传统全秩扰动,大幅削减内存占用与计算开销,使数十亿参数模型的大种群进化优化成为现实。实验表明,该方法在强化学习与整数语言建模等任务中均具备强竞争力。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

网易人工智能
网易人工智能

网易数帆多媒体智能生产力平台

网易人工智能 206
查看详情 网易人工智能

RawRWKV

RawRWKV 是首个将 RWKV 应用于原始图像(raw image)低照度增强任务的端到端框架。通过将 RWKV 的线性注意力机制嵌入 U-Net 主干,既保留了全局依赖建模能力,又显著降低了计算复杂度,在多个指标上超越 CNN 与 Transformer 基线,实现性能与效率双赢。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

ASALP

ASALP 是一套基于增强 RWKV-EFE 模型的边缘资源弹性调度系统。该架构部署于 Kubernetes-KubeEdge 平台,可提前预测负载波动并主动触发扩缩容策略,从根本上解决原生 HPA 的响应滞后问题,大幅提升边缘服务请求成功率与系统稳定性。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

MRT

MRT 提出一种 RWKV 与 Transformer 协同工作的混合压缩架构,充分发挥 RWKV 对全局结构的建模优势与 Transformer 对局部纹理的捕捉能力,将图像编码为高度紧凑的一维隐式表示,并配套设计 RWKV 压缩模型(RCM),进一步压缩冗余信息,达成极致压缩比。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

Bridging Transformers and RWKV

该研究针对长视频理解中的计算瓶颈,构建 RWKV-Transformer 混合骨干网络。通过选择性替换部分 Transformer 层为 RWKV 模块,并结合参数复用与渐进式知识蒸馏策略,在不牺牲 token 分辨率的前提下显著提升吞吐量,且在多个主流视频理解基准上保持甚至超越原始模型精度。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

Robotic control optimization

本研究将改进版 RWKV 替换 Decision Transformer 中的自注意力模块,重点优化通道混合结构以适配机器人控制任务。在 D4RL 标准数据集上的实验证明,该方法在训练速度与策略收敛精度两方面均优于现有基线。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

社区市场活动

RWKV 团队受邀参加"2025 直通乌镇全球互联网大赛"

2025 年 11 月 9 日,RWKV 团队受邀亮相“2025 直通乌镇全球互联网大赛”,凭借 RWKV 在 AI 基础模型领域的原创性突破与工程化能力,荣获人工智能赛道 一等奖

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

RWKV 团队受邀参加 XIN峰会

2025 年 11 月 15–16 日,RWKV 团队受邀出席 XIN 峰会,围绕“下一代高效大模型架构”展开技术分享与生态共建讨论。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

RWKV 团队受邀参加第27届中国国际高新技术成果交易会

2025 年 11 月 14–16 日,RWKV 团队参展第 27 届高交会,集中展示 RWKV 在工业智能、边缘计算与多模态理解等方向的技术落地案例。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

RWKV 团队受邀参加2025 GOTC 全球开源技术峰会

2025 年 11 月 1 日,RWKV 团队亮相 2025 GOTC 全球开源技术峰会,在大模型应用技术论坛带来题为《RWKV:开源高效大模型的新范式》的主题演讲。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

RWKV 团队受邀参加RTE 2025

2025 年 11 月 1 日,RWKV 团队出席 RTE 2025 实时互动技术大会,分享 RWKV 在语音识别、TTS 与实时音频处理中的前沿实践与优化经验。

RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布{{{width=“auto” height=“auto”}}}

RWKV 2025 生态内容征集大赛

我们于 2024 年底正式启动 “RWKV 2025 生态内容征集大赛”,面向全球开发者、研究者与教育者开放投稿,涵盖 RWKV 相关论文、教学资料、工具库、行业应用等多个方向。

2025 年 10 至 11 月期间,共收到高质量投稿 3 篇学术论文 + 2 个开源应用项目

评审结果公示

作品名称 类型 投稿人 初评奖项 论文/项目链接
GDSR 论文 Doswin 铜奖 https://www.php.cn/link/d5f6b27eed9d01f58d2e943b6c319081
RWKV-VIO 论文 kamuyi 铜奖 https://www.php.cn/link/31a67bdbe13f907c857a7a27a3111509
rwkv_ops 应用 路过的小林 铁奖 https://www.php.cn/link/42bf85196c63fadb97cc4123d7ecf834
chirrup 应用 Leon 银奖 https://www.php.cn/link/5e740f261196151a0b02c7b2fccf6ae6
基于动态邻接融合与通道混合的图神经网络社团检测方法 论文 XQ 参与奖 https://www.php.cn/link/95b2a1df756b9e6e67bfacd25c2c6110

加入 RWKV 社区

诚挚邀请您加入 RWKV 开源社区,共同推动高效大模型技术的发展与普及。您可通过以下渠道了解 RWKV、参与讨论或贡献代码:

源码获取:https://www.php.cn/link/da969836ff9696f9c182a7026558fe234

以上就是RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号