时间序列预测(Time Series Forecasting, TSF)长期以来一直是工业和日常生活中至关重要的任务。大多数经典统计模型在应用于能源、医疗、交通、气象和经济学等领域的实际场景时,可能存在一定的局限性,尤其是在需要高精度的情况下。随着深度学习的不断发展,近年来时间序列预测领域涌现了许多新模型。然而,现有的综述尚未对这一领域广泛的模型架构进行统一的总结,也未对特征提取和相关数据集的研究工作提供详细的归纳。为了填补这一空白,本文全面研究了以往的工作,并从模型架构的角度总结了深度时间序列预测(Deep Time Series Forecasting, DTSF)的通用范式。此外,我们采用了一种创新的方法,重点关注时间序列的组成,并系统性地解释了重要的特征提取方法。同时,我们对现有研究中的多领域数据集进行了全面整理。最后,我们系统地强调了该领域面临的重要挑战以及未来的研究方向。

时间序列在我们的生产和生活的各个方面无处不在,是记录历史事件的主要维度。预测作为一项关键任务,利用序列中的历史信息来推断未来(Hyndman 和 Athanasopoulos,2018;Petropoulos 等,2022)。它在与我们的生活密切相关的多个领域中有着广泛的应用,包括能源生产与消费(Deb 等,2017;Li 等,2019b;Saxena 等,2019;Rajagukguk 等,2020;Zhao 等,2016;Toubeau 等,2018)、气象变化(Mudelsee,2019;Zaini 等,2022)、金融、股票市场和计量经济学(Sezer 等,2020;Chen 和 Chen,2015;Callot 等,2017;Andersen 等,2005;Luo 等,2018;Kalra 等,2024;Singh 等,2023)、销售与需求(Böse 等,2017;Bandara 等,2019)、城市交通流量(Tedjopurnomo 等,2020;Lv 等,2014;Li 等,2017)以及福利相关的医疗健康状况(Piccialli 等,2021;Kaushik 等,2020;Topol,2019;Mishra 等,2024)。 机器学习、数据科学以及其他采用运筹学和统计学方法的研究团队已对时间序列预测进行了广泛探索(Fuller,2009;Faloutsos 等,2018,2019b,a)。统计模型通常考虑非平稳性、线性关系和特定概率分布,以基于历史数据的统计特性(如均值、方差和自相关性)推断未来趋势。另一方面,机器学习模型从数据中学习模式和规则。随着深度学习(Rosenblatt,1957)的出现和快速发展(Goodfellow 等,2016;LeCun 等,2015),越来越多的神经网络模型被应用于时间序列预测。与前两种依赖于领域知识或有意义的特征工程的方法不同,深度学习能够从复杂数据中自主提取复杂的时间特征和模式。这种能力使其能够捕捉长期依赖性和复杂关系,从而最终提高预测准确性。在本文中,我们将深度学习用于时间序列预测的研究称为 DTSF 研究,时间序列预测将简称为 TSF。 近年来,深度学习方法在时间序列预测(TSF)的各个领域中不断进步和创新(Salinas 等,2020;Xu 等,2016;Lai 等,2018;Bandara 等,2020;Oord 等,2016;Rasul 等,2021;Lim 等,2021)。然而,当前的研究主要集中在关键的 TSF 概念和基本模型组件上,而缺乏对基于深度学习的 DTSF 模型结构的高层次分类、对最新发展的全面总结以及对未来前景和挑战的深入分析。本文旨在通过借鉴最新研究来填补这些空白。本工作的主要贡献如下: * 动态且系统的分类法:我们提出了一种新颖的动态分类方法,旨在以系统的方式对用于时间序列预测的深度学习模型进行分类。我们的调查从模型架构结构的角度对这些模型进行了分类和总结。据我们所知,这是首次对时间序列预测的深度学习模型架构进行动态分类。 * 数据特征增强的全面综述:我们分析和总结了时间序列数据的特征增强方法,包括维度分解、时频变换、预训练和基于分块的划分。我们的分析从复杂高维数据特征的组成入手,旨在揭示时间序列数据中的潜在学习能力。 * 挑战与未来方向的总结:本调查总结了近年来主要的 TSF 数据集,讨论了关键挑战,并强调了推动该领域发展的未来研究方向。

剩余内容组织如下。第 2 节介绍了 TSF 的基本方面,包括时间序列的定义和组成、预测任务、统计模型以及存在的问题。第 3 节是本文的核心部分,主要描述了 DTSF 模型的总体结构范式。第 4 节概述了从时间序列数据中提取和学习特征的常见范式,这是本文的第二大重点。第 5 节是本文的另一个重点,我们不仅强调了当前 DTSF 研究成就的局限性和挑战,还阐明了未来探索的前景。最后,我们在第 6 节对本文进行了总结。附录 A 提供了跨多个领域的 TSF 数据集的详尽说明。图 1 展示了全文的框架。

成为VIP会员查看完整内容
2

相关内容

机器学习的一个分支,它基于试图使用包含复杂结构或由多重非线性变换构成的多个处理层对数据进行高层抽象的一系列算法。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
《可解释深度强化学习综述》
专知会员服务
34+阅读 · 2月12日
《深度表格学习综述》
专知会员服务
43+阅读 · 2024年10月18日
基于深度学习的物体姿态估计综述
专知会员服务
25+阅读 · 2024年5月15日
《图强化学习在组合优化中的应用》综述
专知会员服务
58+阅读 · 2024年4月10日
深度学习和基础模型在时间序列预测中的综述
专知会员服务
48+阅读 · 2024年1月26日
《综述:测试与评估中应用的人工智能工具》
专知会员服务
67+阅读 · 2024年1月22日
深度学习在时间序列异常检测中的应用综述
专知会员服务
108+阅读 · 2022年11月11日
最新《深度持续学习》综述论文,32页pdf
专知会员服务
86+阅读 · 2020年9月6日
最新《图嵌入组合优化》综述论文,40页pdf
多模态深度学习综述,18页pdf
专知
50+阅读 · 2020年3月29日
深度学习与医学图像分析
人工智能前沿讲习班
40+阅读 · 2019年6月8日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
165+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
439+阅读 · 2023年3月31日
Arxiv
158+阅读 · 2023年3月24日
Arxiv
23+阅读 · 2023年3月17日
Optimization for deep learning: theory and algorithms
Arxiv
105+阅读 · 2019年12月19日
VIP会员
相关VIP内容
《可解释深度强化学习综述》
专知会员服务
34+阅读 · 2月12日
《深度表格学习综述》
专知会员服务
43+阅读 · 2024年10月18日
基于深度学习的物体姿态估计综述
专知会员服务
25+阅读 · 2024年5月15日
《图强化学习在组合优化中的应用》综述
专知会员服务
58+阅读 · 2024年4月10日
深度学习和基础模型在时间序列预测中的综述
专知会员服务
48+阅读 · 2024年1月26日
《综述:测试与评估中应用的人工智能工具》
专知会员服务
67+阅读 · 2024年1月22日
深度学习在时间序列异常检测中的应用综述
专知会员服务
108+阅读 · 2022年11月11日
最新《深度持续学习》综述论文,32页pdf
专知会员服务
86+阅读 · 2020年9月6日
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
相关论文
微信扫码咨询专知VIP会员