清华最新46页综述《图神经网络推荐系统:挑战,方法和发展方向》

2021 年 10 月 11 日 图与推荐


摘要

推荐系统是当今互联网上最重要的信息服务之一。近年来,图神经网络已成为推荐系统的新技术。在这个调研中,我们对基于图神经网络的推荐系统的文献进行了全面的回顾。我们首先介绍了推荐系统和图神经网络的背景和发展历史。对于推荐系统,一般来说,现有工作的分类分为四个方面: 阶段、场景、目标和应用。对于图神经网络,现有的方法包括谱模型和空间模型两大类。然后讨论了将图神经网络应用于推荐系统的动机,主要包括高阶连通性、数据的结构特性和增强的监督信号。然后我们系统地分析了图构造、嵌入传播/聚合、模型优化和计算效率方面的挑战。之后,我们首先按照上面的分类法,全面概述了基于图神经网络的推荐系统的大量现有工作。最后,对该领域存在的问题和未来发展方向进行了讨论。我们在https://github.com/tsinghua-fib-lab/GNN-Recommender-Systems中总结了这些有代表性的论文及其代码库。推荐系统,是一种以向用户呈现个性化信息为目标的过滤系统,可以提高用户体验,提高企业利润。作为由现实世界驱动的机器学习的典型应用之一,它是当今工业界和学术界的一个非常热门的话题。

综述PDF可去下面的群文件里下载。


引言

推荐系统,是一种以向用户呈现个性化信息为目标的过滤系统,可以提高用户体验,提高企业利润。作为由现实世界驱动的机器学习的典型应用之一,它是当今工业界和学术界的一个非常热门的话题。


回顾推荐系统的发展历程,一般可将其分为三个阶段:浅层模型[74,125,126]、神经模型[26,48,56]和基于GNN的模型[55,153,188]。最早的推荐模型通过直接计算交互的相似度来捕捉协同过滤(CF)效应。然后,提出了基于模型的CF方法,如矩阵分解(MF)[74]或分解机[125],将推荐作为一个表示学习问题来处理。然而,这些方法面临着复杂的用户行为或数据输入等关键挑战。为了解决这个问题,我们提出了基于神经网络的模型[26,48,56]。例如,神经协同过滤(neural collaborative filtering, NCF)被开发用于扩展多层感知器(multi-layer perceptrons, MLP)内积,以提高其能力。同样,深度因子分解机(DeepFM)[48]将浅层模型因子分解机(FM)[125]与MLP结合。然而,由于这些方法的预测和训练模式忽略了观测数据中的高阶结构信息,因此仍然存在很大的局限性。例如,NCF的优化目标是预测用户-物品交互,训练样本包括观察到的正向用户-物品交互和未观察到的负向用户-物品交互。这意味着在对特定用户进行参数更新时,只涉及他/她交互的项。


近年来,图神经网络的发展为解决推荐系统中的上述问题提供了坚实的基础和机遇。具体来说,图神经网络采用嵌入传播的方法迭代地聚合邻域嵌入。通过叠加传播层,每个节点可以访问高阶邻居的信息,而不是传统方法只访问一阶邻居的信息。基于GNN的推荐方法以其处理结构化数据和挖掘结构化信息的优势,已成为推荐系统中最先进的方法。为了将图神经网络很好地应用到推荐系统中,有一些关键的挑战需要解决。首先,将推荐系统的数据输入仔细地构造成图,节点表示元素,边表示元素之间的关系。其次,对于具体的任务,需要自适应地设计图神经网络中的构件,包括如何传播和聚合,现有的工作在这方面探索了各种各样的选择,各有优缺点。第三,基于GNN模型的优化,包括优化目标、损失函数、数据采样等,应与任务要求一致。最后,由于推荐系统对计算成本有严格的限制,而且由于GNN的嵌入传播操作引入了大量的计算,图神经网络在推荐系统中的有效部署是另一个关键的挑战。



在本文中,我们旨在提供一个系统和全面的研究工作,特别是他们如何改进图神经网络的推荐和解决相应的挑战。为了更清晰地理解推荐系统,我们从阶段、场景、目标和应用四个方面对推荐系统的研究进行了分类。我们总结了https://github.com/tsinghua-fib-lab/ gnn - recommendation - systems中具有代表性的论文及其代码库。 值得一提的是,已有一项基于图神经网络的推荐系统的综述[168]。然而,由于以下原因,它是有限的。首先,它没有提供广泛的推荐系统分类。具体来说,它将推荐系统大致分为非序列推荐和序序推荐,但这并不合理。事实上,正如本调研所指出的那样,序列推荐只是一个具有特殊输入和输出设置的特定推荐场景。第二,它没有提供足够的动机和原因,现有的工作利用图神经网络推荐系统。而在本次调研中,我们对GNN为什么可以和应该被用于推荐系统提供了一个全面的理解,有助于读者理解这一新的研究领域的地位和价值。第三,它没有解释将图神经网络应用于推荐的关键挑战以及如何解决这些挑战,这在本调研中已经充分讨论。最后,由于这一领域越来越受欢迎,我们的调研也介绍了许多最近发表的论文[168]没有涉及。


本次综述的结构组织如下。在第2节中,我们首先从阶段、场景、目标、应用四个方面介绍了推荐系统的背景,以及图神经网络的背景。在第三节中,我们从四个方面讨论了在推荐系统中应用图神经网络所面临的挑战。然后我们按照上节的分类,在第4节中详细阐述了基于图神经网络的推荐的代表性方法。在第5节中,我们讨论了这一领域中最关键的开放问题,并提供了未来方向的想法,在第6节中总结了这个综述。




登录查看更多
1

相关内容

推荐系统,是指根据用户的习惯、偏好或兴趣,从不断到来的大规模信息中识别满足用户兴趣的信息的过程。推荐推荐任务中的信息往往称为物品(Item)。根据具体应用背景的不同,这些物品可以是新闻、电影、音乐、广告、商品等各种对象。推荐系统利用电子商务网站向客户提供商品信息和建议,帮助用户决定应该购买什么产品,模拟销售人员帮助客户完成购买过程。个性化推荐是根据用户的兴趣特点和购买行为,向用户推荐用户感兴趣的信息和商品。随着电子商务规模的不断扩大,商品个数和种类快速增长,顾客需要花费大量的时间才能找到自己想买的商品。这种浏览大量无关的信息和产品过程无疑会使淹没在信息过载问题中的消费者不断流失。为了解决这些问题,个性化推荐系统应运而生。个性化推荐系统是建立在海量数据挖掘基础上的一种高级商务智能平台,以帮助电子商务网站为其顾客购物提供完全个性化的决策支持和信息服务。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
协同过滤推荐系统综述
专知会员服务
46+阅读 · 2021年11月4日
【清华大学】图神经网络推荐系统综述论文
专知会员服务
78+阅读 · 2021年10月6日
【IJCAI2021】基于图学习的推荐系统综述
专知会员服务
96+阅读 · 2021年5月7日
专知会员服务
65+阅读 · 2021年5月4日
【2020新书】《图核方法最新进展与未来挑战》,151页pdf
专知会员服务
64+阅读 · 2020年11月15日
南洋理工大学,深度学习推荐系统综述
专知会员服务
174+阅读 · 2019年10月14日
「深度神经网络 FPGA 」最新2022研究综述
专知
3+阅读 · 2022年3月26日
WWW'22 | 图神经网络推荐系统的最新SOTA基准
图与推荐
4+阅读 · 2022年3月20日
最新基于GNN的推荐系统综述(附110篇论文下载链接)
机器学习与推荐算法
2+阅读 · 2022年2月19日
清华最新《图神经网络推荐系统》综述论文
机器学习与推荐算法
2+阅读 · 2021年10月8日
厦大最新《强化学习推荐系统》综述论文
机器学习与推荐算法
7+阅读 · 2021年9月24日
最新基于强化学习的推荐系统综述
机器学习与推荐算法
6+阅读 · 2021年9月10日
深度学习在推荐系统中的应用综述(最全)
七月在线实验室
17+阅读 · 2018年5月5日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
Vision-and-Language Pretrained Models: A Survey
Arxiv
3+阅读 · 2022年4月15日
Arxiv
92+阅读 · 2020年2月28日
Arxiv
15+阅读 · 2019年6月25日
Arxiv
19+阅读 · 2019年4月5日
VIP会员
相关VIP内容
协同过滤推荐系统综述
专知会员服务
46+阅读 · 2021年11月4日
【清华大学】图神经网络推荐系统综述论文
专知会员服务
78+阅读 · 2021年10月6日
【IJCAI2021】基于图学习的推荐系统综述
专知会员服务
96+阅读 · 2021年5月7日
专知会员服务
65+阅读 · 2021年5月4日
【2020新书】《图核方法最新进展与未来挑战》,151页pdf
专知会员服务
64+阅读 · 2020年11月15日
南洋理工大学,深度学习推荐系统综述
专知会员服务
174+阅读 · 2019年10月14日
相关资讯
「深度神经网络 FPGA 」最新2022研究综述
专知
3+阅读 · 2022年3月26日
WWW'22 | 图神经网络推荐系统的最新SOTA基准
图与推荐
4+阅读 · 2022年3月20日
最新基于GNN的推荐系统综述(附110篇论文下载链接)
机器学习与推荐算法
2+阅读 · 2022年2月19日
清华最新《图神经网络推荐系统》综述论文
机器学习与推荐算法
2+阅读 · 2021年10月8日
厦大最新《强化学习推荐系统》综述论文
机器学习与推荐算法
7+阅读 · 2021年9月24日
最新基于强化学习的推荐系统综述
机器学习与推荐算法
6+阅读 · 2021年9月10日
深度学习在推荐系统中的应用综述(最全)
七月在线实验室
17+阅读 · 2018年5月5日
相关基金
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
Top
微信扫码咨询专知VIP会员