【ICML2021】具有超参数重要性的可解释的自动图表示学习

目前的图表示(GR)算法在超参数调优方面需要大量的人工专家，这极大地限制了其实际应用，促使人们迫切需要无需人工干预的自动图表示。虽然自动机器学习(AutoML)是自动超参数调优的一个很好的候选对象，但关于自动图表示学习的文献报道很少，现有的工作只有使用黑盒策略，缺乏解释不同超参数的相对重要性的见解。为了解决这一问题，本文研究了具有超参数重要性的可解释自动图表示。我们提出了一种可解释的AutoML图表示方法(e-AutoGR)，该方法在性能估计过程中利用可解释的图特征，并通过非线性去相关加权回归学习不同超参数的去相关重要权重，以影响模型性能。这些学习到的重要权重在超参数搜索过程中可以反过来帮助提供更多的洞察力。我们从理论上证明了去相关加权算法的正确性。在真实数据集上的大量实验表明，我们提出的e-AutoGR模型在模型性能和超参数重要性解释方面优于最新方法。

https://icml.cc/Conferences/2021/ScheduleMultitrack?event=9680