GAN逆转化的目的是将给定的图像逆映射到预先训练好的GAN模型的潜在空间,以便由生成器从反代码忠实地重建图像。GAN逆映射作为一种新兴的连接真实和虚假图像领域的技术,在使预先训练好的GAN模型如StyleGAN和BigGAN用于真实图像编辑应用中起着至关重要的作用。同时,GAN逆转化也为GAN的潜在空间的解读以及如何生成逼真的图像提供了思路。在本文中,我们对GAN逆转化进行了概述,并重点介绍了它最近的算法和应用。我们涵盖了GAN逆转化的重要技术及其在图像恢复和图像处理中的应用。我们进一步阐述了未来方向的一些趋势和挑战。

https://www.zhuanzhi.ai/paper/8a6100aa9aacbe624aae09afc4308355

生成对抗网络(GAN)框架是一种深度学习架构,可以估计数据点是如何在概率框架[1]、[2]中生成的。它由两个相互作用的神经网络组成:一个生成器G和一个鉴别器D,它们通过对抗过程共同训练。G的目标是合成与真实数据相似的假数据,D的目标是区分真实数据和假数据。通过对抗性的训练过程,生成器G可以生成与真实数据分布相匹配的假数据。近年来,GANs被应用于图像翻译[3]、[4]、[5]、图像处理[6]、[7]、[11]0到图像恢复[9]、[10]、[11]、[12]、[13]等众多任务。

许多GAN模型,如PGGAN [14], BigGAN[15]和StyleGAN[16],[17],已经被开发用于从随机噪声输入合成高质量和多样性的图像。近年来的研究表明,GANs在图像生成过程中有效编码了中间特征[18]和潜在空间[19]、[20]、[21]中丰富的语义信息。这些方法可以通过改变潜在代码来合成具有不同属性的图像,如老化、表情、光方向等。然而,由于GANs缺乏推理功能和编码器,这种对潜在空间的操作只适用于GANs生成的图像,并不适用于任何给定的真实图像。

相比之下,GAN反转的目标是将给定的图像反演回预先训练好的GAN模型的潜在空间。然后,图像发生器就可以从反码中忠实地重建出来。由于GAN逆转化是连接真实和虚假图像域的关键,因此在[17]、[20]、[21]、[23]、[24]、[25]、[26]、[27]、[28]等领域取得了重大进展。GAN反演使得在现有训练过的GAN的潜在空间中发现的可控方向适用于真实的图像编辑,而不需要特别的监督或昂贵的优化。如图1所示,在将真实图像倒置到潜在空间后,我们可以沿着一个特定的方向改变其代码来编辑图像的相应属性。GAN反演作为一个将生成对抗网络与可解释机器学习技术相结合的快速发展的领域,不仅提供了一种灵活的替代图像编辑框架,而且有助于揭示深层生成模型的内在机制。

在这篇文章中,我们提出了一个全面的GAN逆向转化方法,重点是算法和应用。据我们所知,这项工作是对快速增长的GAN反转的第一次调查,并有以下贡献。首先,我们提供了一个全面和系统的回顾,以及深刻的分析,在GAN倒置的所有方面的层次和结构。其次,我们对GAN反转方法的性质和性能进行了比较总结。第三,我们讨论了挑战和有待解决的问题,并确定了未来研究的趋势。

成为VIP会员查看完整内容
39

相关内容

生成对抗网络 (Generative Adversarial Network, GAN) 是一类神经网络,通过轮流训练判别器 (Discriminator) 和生成器 (Generator),令其相互对抗,来从复杂概率分布中采样,例如生成图片、文字、语音等。GAN 最初由 Ian Goodfellow 提出,原论文见 Generative Adversarial Networks

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
生成对抗网络GAN在各领域应用研究进展(中文版),37页pdf
专知会员服务
150+阅读 · 2020年12月30日
专知会员服务
182+阅读 · 2020年11月23日
【ACM MM2020】对偶注意力GAN语义图像合成
专知会员服务
35+阅读 · 2020年9月2日
最新《生成式对抗网络GAN时空数据应用》综述论文,28pdf
生成对抗网络GAN的发展与最新应用
专知会员服务
125+阅读 · 2020年8月13日
最新《深度多模态数据分析》综述论文,26页pdf
专知会员服务
298+阅读 · 2020年6月16日
机器学习速查手册,135页pdf
专知会员服务
338+阅读 · 2020年3月15日
GANs最新综述论文: 生成式对抗网络及其变种如何有用
专知会员服务
70+阅读 · 2019年10月19日
关于GANs在医学图像领域应用的总结
计算机视觉life
13+阅读 · 2019年7月25日
【综述】生成式对抗网络GAN最新进展综述
专知
57+阅读 · 2019年6月5日
最新《生成式对抗网络GAN进展》论文
专知
95+阅读 · 2019年4月5日
万字综述之生成对抗网络(GAN)
PaperWeekly
43+阅读 · 2019年3月19日
【学界】协作式生成对抗网络
GAN生成式对抗网络
8+阅读 · 2018年6月29日
【学界】生成式对抗网络:从生成数据到创造智能
GAN生成式对抗网络
6+阅读 · 2018年6月14日
手把手 | 生成式对抗网络(GAN)之MNIST数据生成
数说工作室
10+阅读 · 2017年7月31日
Arxiv
19+阅读 · 2021年1月14日
Arxiv
23+阅读 · 2020年9月16日
Arxiv
110+阅读 · 2020年2月5日
Seeing What a GAN Cannot Generate
Arxiv
8+阅读 · 2019年10月24日
A Probe into Understanding GAN and VAE models
Arxiv
9+阅读 · 2018年12月13日
Arxiv
6+阅读 · 2018年11月29日
Arxiv
7+阅读 · 2018年11月6日
Arxiv
136+阅读 · 2018年10月8日
VIP会员
相关VIP内容
生成对抗网络GAN在各领域应用研究进展(中文版),37页pdf
专知会员服务
150+阅读 · 2020年12月30日
专知会员服务
182+阅读 · 2020年11月23日
【ACM MM2020】对偶注意力GAN语义图像合成
专知会员服务
35+阅读 · 2020年9月2日
最新《生成式对抗网络GAN时空数据应用》综述论文,28pdf
生成对抗网络GAN的发展与最新应用
专知会员服务
125+阅读 · 2020年8月13日
最新《深度多模态数据分析》综述论文,26页pdf
专知会员服务
298+阅读 · 2020年6月16日
机器学习速查手册,135页pdf
专知会员服务
338+阅读 · 2020年3月15日
GANs最新综述论文: 生成式对抗网络及其变种如何有用
专知会员服务
70+阅读 · 2019年10月19日
相关资讯
关于GANs在医学图像领域应用的总结
计算机视觉life
13+阅读 · 2019年7月25日
【综述】生成式对抗网络GAN最新进展综述
专知
57+阅读 · 2019年6月5日
最新《生成式对抗网络GAN进展》论文
专知
95+阅读 · 2019年4月5日
万字综述之生成对抗网络(GAN)
PaperWeekly
43+阅读 · 2019年3月19日
【学界】协作式生成对抗网络
GAN生成式对抗网络
8+阅读 · 2018年6月29日
【学界】生成式对抗网络:从生成数据到创造智能
GAN生成式对抗网络
6+阅读 · 2018年6月14日
手把手 | 生成式对抗网络(GAN)之MNIST数据生成
数说工作室
10+阅读 · 2017年7月31日
相关论文
Arxiv
19+阅读 · 2021年1月14日
Arxiv
23+阅读 · 2020年9月16日
Arxiv
110+阅读 · 2020年2月5日
Seeing What a GAN Cannot Generate
Arxiv
8+阅读 · 2019年10月24日
A Probe into Understanding GAN and VAE models
Arxiv
9+阅读 · 2018年12月13日
Arxiv
6+阅读 · 2018年11月29日
Arxiv
7+阅读 · 2018年11月6日
Arxiv
136+阅读 · 2018年10月8日
微信扫码咨询专知VIP会员