序列推荐的目标是通过历史交互来模拟用户的动态行为。现有的方法依赖于明确的商品 ID 或者通用的文本特征进行序列模型的理解用户喜好。然而,这些方法仍然难以处理冷启动商品,或将知识迁移到新的数据集上。在这篇文章中,我们提出将用户偏好和商品特征建模为可以泛化到新商品和数据集的语言表示。为此,我们提出了一个新颖的框架,名为 Recformer,该框架可以有效地学习用于序列推荐的语言表示**。具体来说,我们提出将一个项目视为一个由文本描述的项目键值属性展开的“句子”(词序列),这样用户的一个项目序列就变成了一个句子序列**。对于推荐,Recformer被训练来理解“句子”序列并检索下一个“句子”。为了编码项目序列,我们设计了一个类似于Longformer的双向Transformer模型,但在序列推荐中使用了不同的嵌入层。为了有效的表示学习,我们提出了新颖的预训练和微调方法,这些方法结合了语言理解和推荐任务。因此,Recformer可以有效地根据语言表示推荐下一个项目。在六个数据集上进行的广泛实验表明了Recformer在序列推荐,特别是在资源少和冷启动设置中的有效性。

https://www.zhuanzhi.ai/paper/9ecf508f540f4b92f1a6bf26189acaa6

成为VIP会员查看完整内容
9

相关内容

【KDD2022】自监督超图Transformer推荐系统
专知会员服务
33+阅读 · 2022年8月1日
【KDD2022】多行为超图增强Transformer的序列推荐
专知会员服务
28+阅读 · 2022年7月14日
专知会员服务
15+阅读 · 2021年9月25日
专知会员服务
15+阅读 · 2021年8月13日
专知会员服务
53+阅读 · 2021年6月30日
专知会员服务
22+阅读 · 2021年3月23日
【CIKM2020】多模态知识图谱推荐系统,Multi-modal KG for RS
专知会员服务
96+阅读 · 2020年8月24日
专知会员服务
86+阅读 · 2020年1月20日
推荐系统多任务学习上分技巧
机器学习与推荐算法
0+阅读 · 2022年10月19日
论文浅尝 | 弱监督下极简的视觉语言预训练模型
开放知识图谱
1+阅读 · 2022年9月26日
KDD2022 | 基于自监督超图Transformer的推荐算法研究
机器学习与推荐算法
1+阅读 · 2022年8月26日
【KDD2022】自监督超图Transformer推荐系统
专知
1+阅读 · 2022年8月1日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
140+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
342+阅读 · 2023年3月31日
Arxiv
21+阅读 · 2021年12月31日
Arxiv
15+阅读 · 2019年9月11日
Arxiv
11+阅读 · 2019年6月19日
VIP会员
相关VIP内容
【KDD2022】自监督超图Transformer推荐系统
专知会员服务
33+阅读 · 2022年8月1日
【KDD2022】多行为超图增强Transformer的序列推荐
专知会员服务
28+阅读 · 2022年7月14日
专知会员服务
15+阅读 · 2021年9月25日
专知会员服务
15+阅读 · 2021年8月13日
专知会员服务
53+阅读 · 2021年6月30日
专知会员服务
22+阅读 · 2021年3月23日
【CIKM2020】多模态知识图谱推荐系统,Multi-modal KG for RS
专知会员服务
96+阅读 · 2020年8月24日
专知会员服务
86+阅读 · 2020年1月20日
相关基金
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2013年12月31日
国家自然科学基金
4+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员