0

0

AAAI 2025|时间序列演进也是种扩散过程?基于移动自回归的时序扩散预测模型

聖光之護

聖光之護

发布时间:2024-12-23 22:12:14

|

717人浏览过

|

来源于机器之心

转载

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

图片

aixiv专栏是本站发布学术、技术内容的栏目。过去数年,本站aixiv专栏接收报道了2000多篇内容,覆盖全球各大高校与企业的顶级实验室,有效促进了学术交流与传播。如果您有优秀的工作想要分享,欢迎投稿或者联系报道。投稿邮箱:liyazhou@jiqizhixin.com;zhaoyunfeng@jiqizhixin.com

在人工智能领域,目前有很多工作采用自回归方法来模拟或是替代扩散模型,其中视觉自回归建模(visual autoregressive modeling,简称 var)就是其中的典型代表,该工作利用自回归取得了比传统基于噪声的扩散模型更好的生成效果,并且获得了人工智能顶级会议 neurips 2024 的 best paper。然而在时间序列预测领域,当前主流的扩散方法还是传统的基于噪声的方法,未能充分利用自回归技术实现时间序列建模。

近期,来自上海交通大学和东方理工的研究团队推出了自回归移动扩散(auto-regressive moving diffusion,简称 armd)模型。armd 模型受经典的自回归移动平均(arma)理论启发,重新定义了时间序列的扩散过程:如图一所示,与传统的基于噪声的扩散方法不同,armd 将时间序列的演进看成是一个扩散过程,并采用了基于链式扩散的方式。它的前向过程由未来序列扩散到历史序列,并根据扩散步数通过滑动序列的操作生成中间状态;反向过程则通过历史序列‘采样’生成未来序列,实现了采样和预测目标的统一。
图片
                             图一:已有的基于噪声的时序扩散方法和 armd 的时序扩散方法对比。

相比于传统基于扩散的时序模型,armd 并没有将时间序列预测视为从噪声起步的条件生成任务,而是充分利用时间序列数据的连续演化特性,实现了扩散机制与时间序列连续性之间的对齐,从而提升了模型性能。该项研究以《auto-regressive moving diffusion models for time series forecasting》为题,被 aaai 2025 接收。
图片
  • 论文标题:auto-regressive moving diffusion models for time series forecasting

  • 论文地址:https://arxiv.org/abs/2412.09328

  • 项目地址:https://github.com/daxin007/ARMD

    Favird No-Code Tools
    Favird No-Code Tools

    无代码工具的聚合器

    下载

方法介绍

针对时序预测任务,该研究用历史序列图片去预测未来序列图片,其中 L 为历史序列的长度,T 为未来序列的长度。在该任务中,研究人员将历史序列的长度设置为与未来序列相同,即 L=T。

在 ARMD 中,时间序列的演进被概念化为一个扩散过程,时间序列的每一步都可以看成是扩散模型的一个状态,如图二所示。未来序列图片(下标表示在序列中的位置,上标表示在扩散模型中的状态)作为前向扩散(演进)过程的初始状态,而历史序列图片则是最终状态。不同于传统方法逐渐添加噪声生成中间状态,ARMD 通过对图片进行滑动操作来生成中间状态(序列)图片,使其逐渐接近历史序列。这一过程不仅保持了时间序列的连续性,还确保每个中间状态反映了时间序列演进的特定阶段。由初始状态到中间状态添加的内容可以定义为演进趋势,类似于传统扩散模型中的噪声。

反向去噪(逆演进)过程则利用历史序列图片来迭代生成(预测)未来序列图片。ARMD 采用了一个基于距离的去噪(逆演进)网络,根据中间状态图片和时间步 t 得到时间序列的演进趋势。
图片
图二: ARMD 扩散模型示意图。在前向扩散(演进)过程中,未来序列逐渐被转化为历史序列。相反,反向去噪(反演进)过程则利用历史序列迭代地生成 / 预测未来序列。

在最终的采样(预测阶段),ARMD 从历史序列图片开始,迭代生成对未来序列的预测,使采样过程和最终的时间序列预测目标对齐,从而使 ARMD 成为无条件的时序扩散模型。采样过程遵循 DDIM(Denoising Diffusion Implicit Models)的方法,用预测的演进趋势替代传统扩散模型中预测的噪声,并通过逐步去噪(反演进)得到对模型的最终预测。

模型结果

经过在七个广泛使用的时序预测数据集上的大量实验,ARMD 模型的表现超越了现有的基于扩散的时间序列预测模型,并且和最先进的端到端时间序列预测模型取得了相当的效果。模型的预测结果如表一和表二所示:
图片
表一:时间序列预测实验之与基于扩散的时间序列预测基准模型的结果比较。最佳结果以粗体突出显示。“最佳次数” 列表明模型取得最佳结果的次数。
图片
表二:时间序列预测实验之与端对端时间序列预测基准模型的结果比较。最佳结果以粗体突出显示。“最佳次数” 列表明模型取得最佳结果的次数。

另外,由于扩散过程的优化,ARMD 模型在训练推理时间和预测的稳定性方面相对于之前的时序扩散模型也有明显的优势。ARMD 模型的预测效果示例如图三所示:ARMD 在具有明显周期性或趋势特征的时间序列上展现了卓越的预测性能,能够有效地捕捉这些时间序列中的相关特征,且相对于其他扩散模型预测更加稳定。

总结

综上所述,Auto-Regressive Moving Diffusion (ARMD) 模型通过重新诠释时间序列的扩散过程,结合时间序列的自回归特性,成功弥合了扩散机制与时间序列预测目标之间的差距。不同于传统方法从白噪声开始逐步添加噪声,ARMD 采用链式扩散策略,通过滑动操作将未来序列逐渐转化为历史序列,更准确地模拟时间序列的演化路径。该模型还引入了独特的反向去噪(逆演化)过程,利用历史序列迭代生成(预测)未来序列,有效捕捉时间序列的特征。实验结果和理论分析共同证明了 ARMD 作为一种稳健且有效的时间序列预测方案的巨大潜力。
图片
             图三: ARMD 和 Diffusion-TS 在给定相同历史序列的情况下,分别做出的 10 次不同预测的分布情况。ARMD 实现了更稳定且准确的预测。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
github中文官网入口 github中文版官网网页进入
github中文官网入口 github中文版官网网页进入

github中文官网入口https://docs.github.com/zh/get-started,GitHub 是一种基于云的平台,可在其中存储、共享并与他人一起编写代码。 通过将代码存储在GitHub 上的“存储库”中,你可以: “展示或共享”你的工作。 持续“跟踪和管理”对代码的更改。

4141

2026.01.21

http与https有哪些区别
http与https有哪些区别

http与https的区别:1、协议安全性;2、连接方式;3、证书管理;4、连接状态;5、端口号;6、资源消耗;7、兼容性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2907

2024.08.16

C# ASP.NET Core微服务架构与API网关实践
C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开,系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例,帮助开发者掌握构建高可用微服务系统的关键技术,提高系统的可扩展性与维护效率。

76

2026.03.11

Go高并发任务调度与Goroutine池化实践
Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开,系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示,帮助开发者构建稳定高效的 Go 并发任务处理系统,提高系统在高负载环境下的处理能力与稳定性。

38

2026.03.10

Kotlin Android模块化架构与组件化开发实践
Kotlin Android模块化架构与组件化开发实践

本专题围绕 Kotlin 在 Android 应用开发中的架构实践展开,重点讲解模块化设计与组件化开发的实现思路。内容包括项目模块拆分策略、公共组件封装、依赖管理优化、路由通信机制以及大型项目的工程化管理方法。通过真实项目案例分析,帮助开发者构建结构清晰、易扩展且维护成本低的 Android 应用架构体系,提升团队协作效率与项目迭代速度。

83

2026.03.09

JavaScript浏览器渲染机制与前端性能优化实践
JavaScript浏览器渲染机制与前端性能优化实践

本专题围绕 JavaScript 在浏览器中的执行与渲染机制展开,系统讲解 DOM 构建、CSSOM 解析、重排与重绘原理,以及关键渲染路径优化方法。内容涵盖事件循环机制、异步任务调度、资源加载优化、代码拆分与懒加载等性能优化策略。通过真实前端项目案例,帮助开发者理解浏览器底层工作原理,并掌握提升网页加载速度与交互体验的实用技巧。

97

2026.03.06

Rust内存安全机制与所有权模型深度实践
Rust内存安全机制与所有权模型深度实践

本专题围绕 Rust 语言核心特性展开,深入讲解所有权机制、借用规则、生命周期管理以及智能指针等关键概念。通过系统级开发案例,分析内存安全保障原理与零成本抽象优势,并结合并发场景讲解 Send 与 Sync 特性实现机制。帮助开发者真正理解 Rust 的设计哲学,掌握在高性能与安全性并重场景中的工程实践能力。

223

2026.03.05

PHP高性能API设计与Laravel服务架构实践
PHP高性能API设计与Laravel服务架构实践

本专题围绕 PHP 在现代 Web 后端开发中的高性能实践展开,重点讲解基于 Laravel 框架构建可扩展 API 服务的核心方法。内容涵盖路由与中间件机制、服务容器与依赖注入、接口版本管理、缓存策略设计以及队列异步处理方案。同时结合高并发场景,深入分析性能瓶颈定位与优化思路,帮助开发者构建稳定、高效、易维护的 PHP 后端服务体系。

458

2026.03.04

AI安装教程大全
AI安装教程大全

2026最全AI工具安装教程专题:包含各版本AI绘图、AI视频、智能办公软件的本地化部署手册。全篇零基础友好,附带最新模型下载地址、一键安装脚本及常见报错修复方案。每日更新,收藏这一篇就够了,让AI安装不再报错!

169

2026.03.04

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 22.5万人学习

Node.js 教程
Node.js 教程

共57课时 | 13.2万人学习

CSS3 教程
CSS3 教程

共18课时 | 7万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号