在计算机视觉领域,对抗网络(GANs)在生成逼真图像方面取得了巨大的成功。最近,基于GAN的技术在基于时空的应用如轨迹预测、事件生成和时间序列数据估算中显示出了良好的前景。虽然在计算机视觉中对GANs提出了一些评论,但没有人考虑解决与时空数据相关的实际应用和挑战。在这篇文章中,我们对GANs在时空数据方面的最新发展进行了全面的回顾。我们总结了在时空数据中流行的GAN架构,以及用GANs评估时空应用程序性能的常见做法。最后,提出了未来的研究方向,希望能对相关研究者有所帮助。

https://arxiv.org/abs/2008.08903

概述:

时空属性在交通运输(shao2017travel)、社会科学(kupilik2018spatio)、犯罪学(rumi2019crime)等各个领域都很常见,其中,传感器和大数据的激增迅速改变了时空属性。大量的时空(ST)数据需要适当的处理技术来建立有效的应用。通常,处理表格数据或图形数据的传统方法在应用于时空数据集时表现不佳。原因主要有三层(wang2019deep): (1) ST数据通常是连续空间,而表或图数据往往是离散的; (2) ST数据通常同时具有空间和时间属性,其中数据相关性较复杂,传统技术难以捕捉; (3) ST数据具有高度的自相关性,通常不像传统数据那样独立生成数据样本。

随着深度学习的普及,许多神经网络(如卷积神经网络(CNN) (krizhevsky2012imagenet),递归神经网络(RNN) (mikolov2010recurrent), Autoencoder (AE) (hinton2006 reduce),图卷积网络 (GCN) (kipf2016gcn))被提出并在ST数据建模方面取得了显著的成功。ST数据的深度学习之所以被广泛采用,是因为它在层次特征工程能力方面显示出了潜力。在本次调研中,我们关注的是深度学习领域最有趣的突破之一——生成对抗网络(GANs) (goodfellow2014generate)及其在ST数据方面的潜在应用。

GAN是一种对抗学习生成真实数据的生成模型。它由两个组件(goodfellow2014)组成:generator G和discriminator D。G捕获数据分布并从潜在变量z生成真实数据,D估计来自真实数据空间的数据概率。GAN采用了零和非合作博弈的概念,其中G和D被训练为相互竞争,直到达到纳什均衡。GAN在各领域获得了相当大的关注,包括图像(例如,图像翻译(isola2017image)超分辨率(ledig2017photo),联合图像生成(liu2016coupled),对象检测(ehsani2018segan),改变面部属性(donahue2017semantically))、视频(例如,视频一代(vondrick2016generating)),自然语言处理(例如,文本生成(lin2017adversarial),文本图像(zhang2017stackgan))。

然而,直接使用图像或视频生成并不适用于ST数据的建模,如交通流、区域降雨和行人轨迹。一方面,图像生成通常考虑输入和输出图像之间的外观,不能充分处理空间变化。另一方面,视频生成考虑了图像间的空间动态,但是,当对下一幅图像的预测高度依赖于前一幅图像时,时间变化没有得到充分考虑(saxena2019d)。因此,将GANs成功应用于ST数据需要探索新的方法。

最近,GANs开始应用于ST数据。GANs在ST数据上的应用主要包括生成去识别的时空事件(saxena2019d);jin2019crime),时间序列归责(luo2018multivariate;,轨迹预测(gupta2018;kosaraju2019), 图表示 (wang2018;bojchevski2018)等。尽管GANs在计算机视觉领域取得了成功,但将GANs应用于ST数据预测具有挑战性(saxena2019d)。例如,利用额外的信息,如景点(PoI),天气信息在以前的研究中仍然是未触及的。此外,与研究者可以依靠对生成的实例进行可视化检查的图像不同,GANs对ST数据的评估仍然是一个未解决的问题。在ST数据上采用传统的GAN评价指标(saxena2019d;esteban2017real)。

一些研究回顾了最近关于ST数据或GAN在不同领域的应用问题的文献。与从传统关系数据挖掘模式相比,建模ST数据特别具有挑战性,因为除了实际测量之外,它还具有空间和时间属性。Atluri等人(atluri2018spatio)回顾了ST数据建模的流行问题和方法。提供了不同类型ST数据的分类、定义和描述数据实例的方法,以确定实际应用程序中任何类型ST数据的相关问题。他们还列出了通常研究的ST问题,并回顾了处理不同ST类型的独特属性的问题。Want等人(wang2019deep)回顾了将深度学习应用于ST数据挖掘任务的最新进展,并提出了一个利用深度学习模型解决ST数据建模问题的流程。Hong等人(hong2019生成)从不同的角度解释了GANs,并列举了常用的用于多任务的GAN变体。在(pan2019recent)中讨论了GANs的最新进展,Wang et al. (wang2019生)提出了一种用于计算机视觉领域的GANs分类。特别是,Yi等人(yi2019生)回顾了GANs在医学成像中的最新进展。

然而,上述工作回顾了ST数据建模问题或GANs在计算机视觉领域的最新进展。尽管许多研究者(saxena2019d;esteban2017real;gupta2018social;luo20192;已经用GANs对ST数据进行建模,在这个领域还没有相关的调查来解决在ST数据应用中使用GANs的潜力。本文第一次全面概述了ST数据中的GANs,描述了GANs有希望的应用,并确定了在不同ST相关任务中成功应用尚需解决的一些挑战。

成为VIP会员查看完整内容
68

相关内容

生成对抗网络 (Generative Adversarial Network, GAN) 是一类神经网络,通过轮流训练判别器 (Discriminator) 和生成器 (Generator),令其相互对抗,来从复杂概率分布中采样,例如生成图片、文字、语音等。GAN 最初由 Ian Goodfellow 提出,原论文见 Generative Adversarial Networks

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
生成对抗网络GAN的发展与最新应用
专知会员服务
125+阅读 · 2020年8月13日
GANs最新综述论文: 生成式对抗网络及其变种如何有用
专知会员服务
70+阅读 · 2019年10月19日
【上海交大】半监督学习理论及其研究进展概述
专知会员服务
69+阅读 · 2019年10月18日
生成式对抗网络GAN异常检测
专知会员服务
115+阅读 · 2019年10月13日
【综述】生成式对抗网络GAN最新进展综述
专知
57+阅读 · 2019年6月5日
最新《生成式对抗网络GAN进展》论文
专知
95+阅读 · 2019年4月5日
万字综述之生成对抗网络(GAN)
PaperWeekly
43+阅读 · 2019年3月19日
【GAN】2018最佳生成性对抗网络GAN论文回顾与挑战
产业智能官
11+阅读 · 2019年1月21日
生成对抗网络的研究进展与趋势
中国计算机学会
35+阅读 · 2018年11月14日
[论文笔记] GAN开山之作及最新综述
专知
12+阅读 · 2017年12月19日
GAN猫的脸
机械鸡
11+阅读 · 2017年7月8日
Arxiv
4+阅读 · 2018年5月21日
Arxiv
4+阅读 · 2018年4月30日
Arxiv
4+阅读 · 2018年3月23日
Arxiv
12+阅读 · 2018年1月12日
VIP会员
相关资讯
【综述】生成式对抗网络GAN最新进展综述
专知
57+阅读 · 2019年6月5日
最新《生成式对抗网络GAN进展》论文
专知
95+阅读 · 2019年4月5日
万字综述之生成对抗网络(GAN)
PaperWeekly
43+阅读 · 2019年3月19日
【GAN】2018最佳生成性对抗网络GAN论文回顾与挑战
产业智能官
11+阅读 · 2019年1月21日
生成对抗网络的研究进展与趋势
中国计算机学会
35+阅读 · 2018年11月14日
[论文笔记] GAN开山之作及最新综述
专知
12+阅读 · 2017年12月19日
GAN猫的脸
机械鸡
11+阅读 · 2017年7月8日
微信扫码咨询专知VIP会员