题目: DAWSON: A Domain Adaptive Few Shot Generation Framework

摘要:

为一个新领域从无到有地训练一个可生成对抗网络(GAN)需要大量的训练数据和几天的训练时间。为此,我们提出了一种基于元学习的GANs领域自适应少镜头生成框架DAWSON。在GANs上应用元学习的一个主要挑战是,由于GANs的无概率特性,通过在开发集上对生成器进行评估来获得生成器的梯度。为了解决这一挑战,我们提出了一个替代的GAN训练过程,它自然地结合了GANs的两步训练过程和元学习算法的两步训练过程。DAWSON是一个即插即用的框架,它支持一个广泛的元学习算法家族和各种具有体系结构变体的GANs。在DAWSON的基础上,我们还提出了音乐日场,这是第一个少镜头的音乐生成模型。我们的实验表明,音乐日场可以快速适应新的领域,只有几十首歌曲从目标领域。我们还表明,DAWSON可以学习生成新的数字只有四个样本在MNIST数据集。我们在PyTorch和Tensorflow中发布了DAWSON的源代码实现,生成了两种类型的音乐样本和快闪视频。

作者:

Weixin Liang,斯坦福大学,主要研究方向为自然语言处理,对话系统,计算机系统。

成为VIP会员查看完整内容
33

相关内容

生成对抗网络(GAN)是Ian Goodfellow及其同事在2014年设计的一类机器学习框架。两个神经网络在游戏中相互竞争(从博弈论的角度讲,通常但并非总是以零和博弈的形式)。 在给定训练集的情况下,该技术将学习生成具有与训练集相同的统计数据的新数据。 例如,受过照片训练的GAN可以生成新照片,这些新照片至少对人类观察者而言表面上看起来真实,具有许多现实特征。 尽管GAN最初是作为一种形式的无监督学习模型提出的,但它也已被证明可用于半监督学习,完全监督学习和强化学习。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【论文推荐】小样本视频合成,Few-shot Video-to-Video Synthesis
专知会员服务
23+阅读 · 2019年12月15日
生成式对抗网络GAN异常检测
专知会员服务
114+阅读 · 2019年10月13日
39页《迁移学习自然语言生成》PPT
专知
9+阅读 · 2019年2月13日
【GAN货】用神经网络生成音乐
专知
12+阅读 · 2018年9月15日
用PyTorch实现各种GANs(附论文和代码地址)
手把手 | 生成式对抗网络(GAN)之MNIST数据生成
数说工作室
10+阅读 · 2017年7月31日
Adversarial Mutual Information for Text Generation
Arxiv
13+阅读 · 2020年6月30日
Arxiv
3+阅读 · 2019年10月31日
Arxiv
4+阅读 · 2019年9月26日
Arxiv
4+阅读 · 2018年9月25日
Arxiv
11+阅读 · 2018年7月8日
Arxiv
6+阅读 · 2018年3月19日
VIP会员
相关VIP内容
【论文推荐】小样本视频合成,Few-shot Video-to-Video Synthesis
专知会员服务
23+阅读 · 2019年12月15日
生成式对抗网络GAN异常检测
专知会员服务
114+阅读 · 2019年10月13日
相关论文
Adversarial Mutual Information for Text Generation
Arxiv
13+阅读 · 2020年6月30日
Arxiv
3+阅读 · 2019年10月31日
Arxiv
4+阅读 · 2019年9月26日
Arxiv
4+阅读 · 2018年9月25日
Arxiv
11+阅读 · 2018年7月8日
Arxiv
6+阅读 · 2018年3月19日
微信扫码咨询专知VIP会员