Generative adversarial networks (GANs) have achieved remarkable progress in the natural image field. However, when applying GANs in the remote sensing (RS) image generation task, an extraordinary phenomenon is observed: the GAN model is more sensitive to the size of training data for RS image generation than for natural image generation. In other words, the generation quality of RS images will change significantly with the number of training categories or samples per category. In this paper, we first analyze this phenomenon from two kinds of toy experiments and conclude that the amount of feature information contained in the GAN model decreases with reduced training data. Then we establish a structural causal model (SCM) of the data generation process and interpret the generated data as the counterfactuals. Based on this SCM, we theoretically prove that the quality of generated images is positively correlated with the amount of feature information. This provides insights for enriching the feature information learned by the GAN model during training. Consequently, we propose two innovative adjustment schemes, namely Uniformity Regularization (UR) and Entropy Regularization (ER), to increase the information learned by the GAN model at the distributional and sample levels, respectively. We theoretically and empirically demonstrate the effectiveness and versatility of our methods. Extensive experiments on three RS datasets and two natural datasets show that our methods outperform the well-established models on RS image generation tasks. The source code is available at https://github.com/rootSue/Causal-RSGAN.


翻译:生成对抗网络(GAN)在自然图像领域取得了显著进展。然而,在遥感(RS)图像生成任务中应用GAN时,观察到一个非同寻常的现象:对于RS图像生成,GAN模型对训练数据的大小比自然图像生成更为敏感。换句话说,RS图像的生成质量将随训练类别的数量或每个类别的样本数发生显著变化。在本文中,我们首先从两种玩具实验中分析了这种现象,并得出结论:GAN模型中包含的特征信息量随训练数据减少而减少。然后,我们建立了一个数据生成过程的结构因果模型(SCM),将生成的数据解释为反事实。基于这个SCM,我们在理论上证明了生成图像的质量与特征信息量呈正相关。这为丰富训练时GAN模型学习的特征信息提供了洞察,从而提出了两种创新的调整方案:均匀性正则化(UR)和熵正则化(ER),分别在分布和样本层面上增加GAN模型所学习的信息。我们从理论上和实验证实了我们方法的有效性和多样性。在三个RS数据集和两个自然数据集上进行了广泛的实验,结果表明我们的方法在RS图像生成任务上优于成熟的模型。源代码可在 https://github.com/rootSue/Causal-RSGAN 上获得。

0
下载
关闭预览

相关内容

专知会员服务
32+阅读 · 2021年9月16日
最新《生成式对抗网络GAN时空数据应用》综述论文,28pdf
GAN新书《生成式深度学习》,Generative Deep Learning,379页pdf
专知会员服务
202+阅读 · 2019年9月30日
生成对抗网络GANs学习路线
专知
36+阅读 · 2019年6月10日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
vae 相关论文 表示学习 1
CreateAMind
12+阅读 · 2018年9月6日
【推荐】深度学习目标检测全面综述
机器学习研究会
21+阅读 · 2017年9月13日
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
10+阅读 · 2017年9月3日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Transformers in Remote Sensing: A Survey
Arxiv
25+阅读 · 2022年9月2日
VIP会员
相关VIP内容
专知会员服务
32+阅读 · 2021年9月16日
最新《生成式对抗网络GAN时空数据应用》综述论文,28pdf
GAN新书《生成式深度学习》,Generative Deep Learning,379页pdf
专知会员服务
202+阅读 · 2019年9月30日
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员