【KDD2023】学习语言表示用于序列推荐

序列推荐的目标是通过历史交互来模拟用户的动态行为。现有的方法依赖于明确的商品 ID 或者通用的文本特征进行序列模型的理解用户喜好。然而，这些方法仍然难以处理冷启动商品，或将知识迁移到新的数据集上。在这篇文章中，我们提出将用户偏好和商品特征建模为可以泛化到新商品和数据集的语言表示。为此，我们提出了一个新颖的框架，名为 Recformer，该框架可以有效地学习用于序列推荐的语言表示**。具体来说，我们提出将一个项目视为一个由文本描述的项目键值属性展开的“句子”（词序列），这样用户的一个项目序列就变成了一个句子序列**。对于推荐，Recformer被训练来理解“句子”序列并检索下一个“句子”。为了编码项目序列，我们设计了一个类似于Longformer的双向Transformer模型，但在序列推荐中使用了不同的嵌入层。为了有效的表示学习，我们提出了新颖的预训练和微调方法，这些方法结合了语言理解和推荐任务。因此，Recformer可以有效地根据语言表示推荐下一个项目。在六个数据集上进行的广泛实验表明了Recformer在序列推荐，特别是在资源少和冷启动设置中的有效性。

https://www.zhuanzhi.ai/paper/9ecf508f540f4b92f1a6bf26189acaa6