《分层学习引导的自动模型发现》美空军17页技术报告

为了解决如何利用现有数据的增长来建立有用的模型的问题，一个自动发现模型和管道的方法是有序的，它可以利用这些数据。我们已经探索了自动发现模型和管道所需的许多方面：建立一个模型知识库和基于推荐系统方法的模型排名，通过数据集的图形表示进行模型推荐，通过扩展基于树的管道优化工具（TPOT）和基于强化学习的方法进行管道生成。我们探索了一种预算意识到的超参数调整算法和神经网络的不确定性估计。我们探索了不同的训练方法，包括无梯度优化、零点学习和持续学习。我们还解决了神经网络架构的问题。我们将所有这些结合起来，形成了一个模块化的自动机器学习（AutoML）系统，该系统支持广泛的任务类型，在项目评估中一直处于前三名。