综述导读 | Graph Foundation Models for Recommendation: A Comprehensive Survey

去年7月,我们在arXiv网站上推出了图基础模型综述文章《Towards Graph Foundation Models: A Survey and Beyond》的V3版本,这篇综述自最初版本首次提出图基础模型的核心概念并探讨了它们的能力和特征以来,进一步迭代,力求全面覆盖该领域的研究并跟进最新研究进展。 近日,北邮GAMMA Lab师生与百度公司多名推荐领域专家学者合作发布了名为“Graph Foundation Models for Recommendation: A Comprehensive Survey”的文章,首次讨论了图基础模型在推荐领域的应用,并提出了该领域的挑战和未来研究方向。

标题:Graph Foundation Models for Recommendation: A Comprehensive Survey 作者:Bin Wu, Yihang Wang, Yuanhao Zeng, Jiawei Liu, Jiashu Zhao, Cheng Yang, Yawen Li, Long Xia, Dawei Yin, Chuan Shi 链接:https://arxiv.org/abs/2502.08346 简介: 推荐系统(Recommender System,RS)已经成为现代数字化社会不可或缺的一部分,它的应用范围广泛,包括电子商务、社交媒体以及娱乐等多个领域。在这些领域中,推荐系统为我们提供个性化服务。这些推荐系统所依赖的数据通常包含结构信息,例如用户与物品之间的交互,以及文本信息,如用户属性和物品描述等。随着图学习的快速发展,基于图神经网络(GNN)的方法已经在推荐系统中占据重要的地位,它们不仅增强了协同过滤中的协同信号,还将这些信号扩展到了更高阶的结构中。然而,由于GNN的设计目标是建模相关性,它难以处理复杂语义。另一方面,LLM在自然语言处理(NLP)领域的影响力不言而喻,它的应用也延伸到了推荐系统领域。通过借助LLM强大的文本处理能力,我们可以有效地处理用户和物品的文本信息,并整合世界知识以提升推荐的效果。但是,它们的推理能力受限于难以精细理解结构信息。受LLM在NLP领域的成功的启发,图学习领域正在发生变革,图基础模型(GFM)随之诞生。GFM通过整合GNN和LLM的技术,使得推荐系统能够更有效地利用数据来对齐用户的偏好,做出更精准的推荐。基于GFM的推荐系统可以高效地利用结构信息和文本信息,这使得它们有很大的潜力成为推荐系统的新兴范式。

GFM有效地利用了GNN和LLM的技术互补性。GNN在建模文本信息方面存在困难,而LLM的推理能力并不支持它们理解更高阶的结构信息。这两种技术在GFM中互补了彼此的不足,为推荐领域的未来创造了新的可能。在这个综述中,我们全面调研了基于GFM的推荐系统的相关工作,并基于图和LLM在GFM中的协同关系做出了清晰的分类:图增强LLMLLM增强图以及图和LLM协调。图增强LLM方法可以被视为利用图的结构信息来辅助LLM预训练获取的知识进行推荐。而LLM增强图方法,则是由图的结构信息主导,LLM的世界知识作为辅助信息。图和LLM协调方法则是让两者的嵌入在表征空间进行变换。 图增强LLM的方法 LLM增强图的方法 图和LLM协调的方法 推荐系统作为学术界和工业界的常青树,已经成为许多综述的核心主题。其中,一部分研究专注于探索具体推荐方法,如基于图神经网络(GNN)的推荐系统,或者是基于大语言模型(LLM)的推荐系统。另一些研究则关注如何运用大语言模型(LLM)来增强图,从而解决与图相关的问题。然而,随着图学习领域的快速发展,图基础模型正在崭露头角,它很有可能成为推荐系统研究的新范式。我们的这篇综述旨在提供一个全面且具有时效性的概览,尽可能地覆盖基于图基础模型的推荐系统的所有相关工作。 这篇综述的贡献可以归纳为以下几个方面: * 我们对基于图基础模型的推荐系统这个研究领域做了全面的介绍,据我们所知这是这个领域的第一篇综述。 * 我们设计了一套清晰的分类法,使得未来的研究能够轻松地归入相应的类别。 * 我们提出了本领域所面临的挑战以及未来可能的研究方向,这将为这个快速发展的领域提供一定的参考。

该综述的主要章节安排如下:第1节,我们简要介绍了推荐系统以及基于GFM的推荐系统,并阐明了我们文章的动机与贡献。第2节中,我们进一步介绍这个领域的一些背景知识,包括基于GNN的推荐系统,基于LLM的推荐系统以及图基础模型。后面3到5节我们在图增强LLM,LLM增强图,图和LLM的协调三个分类中对这个领域的方法做了细致地介绍和讨论。而在第6节,我们讨论了基于图基础模型的推荐系统的未来方向。

成为VIP会员查看完整内容
1

相关内容

推荐系统,是指根据用户的习惯、偏好或兴趣,从不断到来的大规模信息中识别满足用户兴趣的信息的过程。推荐推荐任务中的信息往往称为物品(Item)。根据具体应用背景的不同,这些物品可以是新闻、电影、音乐、广告、商品等各种对象。推荐系统利用电子商务网站向客户提供商品信息和建议,帮助用户决定应该购买什么产品,模拟销售人员帮助客户完成购买过程。个性化推荐是根据用户的兴趣特点和购买行为,向用户推荐用户感兴趣的信息和商品。随着电子商务规模的不断扩大,商品个数和种类快速增长,顾客需要花费大量的时间才能找到自己想买的商品。这种浏览大量无关的信息和产品过程无疑会使淹没在信息过载问题中的消费者不断流失。为了解决这些问题,个性化推荐系统应运而生。个性化推荐系统是建立在海量数据挖掘基础上的一种高级商务智能平台,以帮助电子商务网站为其顾客购物提供完全个性化的决策支持和信息服务。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
面向表格数据的大模型推理综述
专知会员服务
65+阅读 · 2023年12月26日
基于等变扩散模型的三维分子生成
专知会员服务
10+阅读 · 2022年11月28日
KDD2022 | 基于图神经网络的多模态单细胞数据整合
专知会员服务
11+阅读 · 2022年11月14日
NeurIPS2022|基于解耦因果子结构学习的去偏差图神经网络
基于组合贝叶斯优化的自动化抗体设计
专知会员服务
14+阅读 · 2022年9月9日
【ICML2022】基于随机注意力机制的可解释和广义图学习
专知会员服务
33+阅读 · 2022年8月7日
专知会员服务
52+阅读 · 2021年6月30日
自然语言处理常识推理综述论文,60页pdf
专知
73+阅读 · 2019年4月4日
小样本学习(Few-shot Learning)综述
PaperWeekly
120+阅读 · 2019年4月1日
图神经网络综述:模型与应用
PaperWeekly
197+阅读 · 2018年12月26日
综述:DenseNet—Dense卷积网络(图像分类)
专知
85+阅读 · 2018年11月26日
推荐系统概述
Linux爱好者
20+阅读 · 2018年9月6日
王仲远 | 基于概念知识图谱的短文本理解
开放知识图谱
14+阅读 · 2018年3月28日
【论文】图上的表示学习综述
机器学习研究会
14+阅读 · 2017年9月24日
CNN 模型压缩与加速算法综述
机器学习研究会
16+阅读 · 2017年8月25日
国家自然科学基金
10+阅读 · 2017年12月31日
国家自然科学基金
14+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
18+阅读 · 2021年3月16日
Augmentation for small object detection
Arxiv
11+阅读 · 2019年2月19日
VIP会员
相关VIP内容
面向表格数据的大模型推理综述
专知会员服务
65+阅读 · 2023年12月26日
基于等变扩散模型的三维分子生成
专知会员服务
10+阅读 · 2022年11月28日
KDD2022 | 基于图神经网络的多模态单细胞数据整合
专知会员服务
11+阅读 · 2022年11月14日
NeurIPS2022|基于解耦因果子结构学习的去偏差图神经网络
基于组合贝叶斯优化的自动化抗体设计
专知会员服务
14+阅读 · 2022年9月9日
【ICML2022】基于随机注意力机制的可解释和广义图学习
专知会员服务
33+阅读 · 2022年8月7日
专知会员服务
52+阅读 · 2021年6月30日
相关资讯
自然语言处理常识推理综述论文,60页pdf
专知
73+阅读 · 2019年4月4日
小样本学习(Few-shot Learning)综述
PaperWeekly
120+阅读 · 2019年4月1日
图神经网络综述:模型与应用
PaperWeekly
197+阅读 · 2018年12月26日
综述:DenseNet—Dense卷积网络(图像分类)
专知
85+阅读 · 2018年11月26日
推荐系统概述
Linux爱好者
20+阅读 · 2018年9月6日
王仲远 | 基于概念知识图谱的短文本理解
开放知识图谱
14+阅读 · 2018年3月28日
【论文】图上的表示学习综述
机器学习研究会
14+阅读 · 2017年9月24日
CNN 模型压缩与加速算法综述
机器学习研究会
16+阅读 · 2017年8月25日
相关基金
国家自然科学基金
10+阅读 · 2017年12月31日
国家自然科学基金
14+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员