Real-world machine learning systems need to analyze novel testing data that differs from the training data. In K-way classification, this is crisply formulated as open-set recognition, core to which is the ability to discriminate open-set data outside the K closed-set classes. Two conceptually elegant ideas for open-set discrimination are: 1) discriminatively learning an open-vs-closed binary discriminator by exploiting some outlier data as the open-set, and 2) unsupervised learning the closed-set data distribution with a GAN and using its discriminator as the open-set likelihood function. However, the former generalizes poorly to diverse open test data due to overfitting to the training outliers, which unlikely exhaustively span the open-world. The latter does not work well, presumably due to the instable training of GANs. Motivated by the above, we propose OpenGAN, which addresses the limitation of each approach by combining them with several technical insights. First, we show that a carefully selected GAN-discriminator on some real outlier data already achieves the state-of-the-art. Second, we augment the available set of real open training examples with adversarially synthesized "fake" data. Third and most importantly, we build the discriminator over the features computed by the closed-world K-way networks. Extensive experiments show that OpenGAN significantly outperforms prior open-set methods.


翻译:现实世界机器学习系统需要分析与培训数据不同的新测试数据。 在 Kway 分类中, 这是以开放的识别方式, 直截了当地设计成开放的测试数据, 其核心是能够在 K 封闭型类之外对开放型数据进行歧视。 开放型歧视的两个概念优雅的理念是:(1) 以开放型方式利用一些外部数据作为开放型数据, 从而有区别地学习开放型数据, 2) 不受监督地学习与 GAN 一起的封闭型数据分布, 并使用其导师作为开放型的可能性函数。 但是, 前者由于过度适应培训型外端数据, 核心是无法做到多种开放型的公开测试数据。 后者可能由于对 GAN 的不固定型培训, 我们提出OpenGAN, 通过将每种方法的局限性与若干技术见解结合起来来加以解决。 首先, 我们展示了一个精心选择的 GAN - 差异型分化型数据, 已经实现了开放型的状态- 开放型的模拟网络 。 第二, 我们通过我们展示了我们所具备的初始型的G- tral- tral- greal- greal- greal vial viewd exal exal ex ex viewd dreal view vial vial viewd viewd viewd viewd viewd viewd viewd viewd viewdal viewd viewd data view viewd data viewd viewd viewd dd dd data viewd viewd viewd viewd viewd viewd viewd viewd viewd vial commal comm viewd comm comm comm comm viewd viewd viewd dal vial ex ex viewd dal comm

0
下载
关闭预览

相关内容

专知会员服务
44+阅读 · 2020年10月31日
生成式对抗网络GAN异常检测
专知会员服务
114+阅读 · 2019年10月13日
机器学习入门的经验与建议
专知会员服务
92+阅读 · 2019年10月10日
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
Call for Participation: Shared Tasks in NLPCC 2019
中国计算机学会
5+阅读 · 2019年3月22日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
分布式TensorFlow入门指南
机器学习研究会
4+阅读 · 2017年11月28日
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
10+阅读 · 2017年9月3日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
1+阅读 · 2021年6月3日
Arxiv
13+阅读 · 2021年3月29日
Seeing What a GAN Cannot Generate
Arxiv
8+阅读 · 2019年10月24日
Arxiv
10+阅读 · 2018年3月23日
VIP会员
相关资讯
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
Call for Participation: Shared Tasks in NLPCC 2019
中国计算机学会
5+阅读 · 2019年3月22日
meta learning 17年:MAML SNAIL
CreateAMind
11+阅读 · 2019年1月2日
分布式TensorFlow入门指南
机器学习研究会
4+阅读 · 2017年11月28日
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
10+阅读 · 2017年9月3日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Top
微信扫码咨询专知VIP会员