【KDD2020】AutoFIS: 因数分解模型中用于预测点击率的自动特征交互选择

对特征交互进行建模是推荐系统中的一个重要问题。在现有的深度推荐模型中，特征交互是由专家设计或者简单枚举得到。但是，简单枚举所有的特征交互会占用大量的内存和计算时间。更糟糕的是，无效的特征交互会引入不必要的噪声，干扰推荐模型的训练。在本工作中，我们提出了一个两阶段的模型AutoFIS。

AutoFIS可以为因子分解类模型自动定义出所有重要的特征交互，而并不过多地增加训练时间。在搜索阶段，为了实现在特征交互的离散集合上进行搜索，我们引入连续型结构变量来辅助搜索。通过在这些结构变量上加入约束型优化器，我们的模型在训练过程中可以自动定位并删除无效的特征交互。在重训练阶段，我们将这些结构变量当做注意力机制的权重参数来重新训练，以进一步提升模型的精度。我们在公开数据集和产品数据集上验证，AutoFIS可以提升因子分解类模型的精度(AUC和Logloss)。该方法简单有效，得到KDD评委的高度认可，得到3/2/2的分数，其中meta review的评价是:”Overall the paper presents a novel idea, it is well written and the evaluation is very thorough”。

该工作已经公开https://arxiv.org/abs/2003.11235。