【ICML2021】少样本神经网络架构搜索

神经网络搜索（Neuarl Architecture Search)是近年来兴起的热门方向。在这次 ICML 的文章中，我们提出了 Few-shot NAS， 通过分割搜索空间，对分割后的子空间独立建立了一个子超网络（sub-supernet）来预测网络性能。通过建立 one-shot NAS 和传统挨个训练 NAS 的联系，few-shot NAS 巧妙继承了两种方法的优点，兼有 one-shot NAS 的快速和传统 NAS 的准确网络性能评估。大量实验表明 few-shot NAS 是一个简单易行的方法，在不同任务上和数据集上能提升当下几乎所有的 NAS 方法，包括 ImageNet 及 CIFAR-10 的分类任务和 GAN 这样的生成任务等。该文章被 ICML-2021 接收为 long talk。

论文链接：https://www.zhuanzhi.ai/paper/1dcafa33a4d3b9d9aa3004f85f92dcf0 源代码链接：https://github.com/facebookresearch/LaMCTS