【论文|Google】基于元学习的排序架构，Ranking architectures using meta-learning

题目

Ranking architectures using meta-learning

简介

神经架构搜索（Neural architecture search）最近吸引了大量的研究工作，因为它有望实现神经网络手动设计的自动化。然而，它需要大量的计算资源，为了缓解这一问题，最近提出了一种性能预测网络，它可以通过预测候选体系结构的性能来实现高效的体系结构搜索，而不依赖于实际的模型训练。性能预测器是任务感知的，不仅作为候选体系结构的输入，而且作为任务元特性的输入，它被设计为从多个任务中共同学习。在这项工作中，我们引入了一个成对排序损失，用于训练一个网络，该网络能够根据其任务元特征，为一个新的不可见任务条件排列候选架构。我们给出了实验结果，表明该排序网络比先前提出的性能预测器在架构搜索方面更有效。

作者

Alina Dubatovka，Efi Kokiopoulou，Luciano Sbaiz，Andrea Gesmundo，Gábor Bartók，Jesse Berent来自于Google AI团队