综述 | 图神经网络在推荐系统中的挑战、方法和方向

2021 年 10 月 15 日 图与推荐


1前言

今天给大家介绍清华大学李勇、中科大何向南老师团队有关GNN和推荐系统的综述:Graph Neural Networks for Recommender Systems: Challenges, Methods, and Directions。这篇文章对图神经网络及其在推荐系统中的应用进行了详细的调研,从不同角度对GNN在推荐系统的应用进行了分类,最后基于这些调研对领域内存在的问题和发展方向进行了讨论。

论文链接: https://arxiv.org/abs/2109.12843
仓库链接: https://github.com/tsinghua-fib-lab/GNN-Recommender-Systems

2推荐系统的发展历程

  1. 浅层模型

    早期的推荐模型主要通过计算交互的相似度来捕获协同信号,之后随着Netflix比赛中矩阵分解模型的大放异彩,推荐系统被转化为表示学习问题。

  2. 神经网络模型

    浅层的模型不足以建模复杂的用户行为和大量数据输入,以神经协同过滤NCF,深度因子分解机DeepFM为代表的神经网络方法被开发了出来。

  3. 图神经网络模型

    传统的神经网络很难学习到数据中的高阶结构信息,而图神经网络GNN采用消息传递机制整合邻居信息,通过多层堆叠使得节点可以访问高阶邻居的信息。因此图神经网络模型近年来被广泛应用在推荐系统中,并成为最先进的方法。

3图神经网络(Graph Neural Networks, GNN)

  1. 图的构建

    • 同构图 边和节点只有一类
    • 异构图 边和节点有多个种类
    • 超图 一条边可以链接多个点
  2. 图神经网络的建模,消息传递聚合机制

  3. 如何优化

    • 链路预测:BPRloss
    • 节点分类:Logloss
  4. GNN为什么适合推荐系统

    推荐系统数据多,种类杂(交互,用户画像,商品属性等),用图可以统一整合在一起,获得高质量嵌入。

    • 高阶关联

      堆叠GNN层可以自然引入高阶关联,增强协同过滤信号

    • 监督信号

      监督信号,例如交互数量稀疏。GNN在表示学习中利用半监督信号来缓解监督信号少的问题。

    • 结构化数据
  5. GNN在推荐系统上应用需要考虑的几个问题

    构图---> 消息传递聚合机制---> 模型优化---> 训练和推理效率

4推荐系统的分类

  1. 根据推荐系统的不同阶段

    • Matching 匹配阶段:第一个推荐阶段会从非常大的item池子中匹配出几百个候选项目。该阶段的特点有数据规模大,同时出于在线服务的延迟考虑,模型通常比较简洁。此外,现实工业界中的推荐系统通常包含多个匹配渠道,来分别考虑不同方面的信息。
    • Ranking 排序阶段:第二个推荐阶段会把来自不同渠道的多个匹配结果整合到一个列表中,并对其进行排序,选出排名靠前的items。这一阶段由于输入规模较少,系统可以为了精度来使用复杂算法,并把多种特征考虑进来。同时多种特征之间如何交互也成为了该阶段的关键挑战。
    • Re-ranking 重排序阶段:上一阶段的优化目标主要是推荐精度,但推荐系统除了精度之外,还需要考虑新鲜度,多样性,公平性等问题。这一阶段需要考虑不同Items之间的多重关系,进行删除或者更改顺序等操作。
  2. 根据不同推荐场景

    • 社交推荐

      除了用户-商品之间的交互之外,利用用户的社交关系来增强推荐效果。

      主要挑战:如何捕获社交因素,如何结合社交信息和交互行为

      近期发展

    • 序列推荐

      利用用户的历史交互序列提取用户的兴趣,来预测下一个item。

      主要挑战:如何从序列中提取尽可能多的有效信息

      近期发展

    • 会话推荐

      用户档案和长期的历史交互不可用,只通过匿名用户的短会话数据进行推荐。

      主要挑战:如何在会话数据中建模items的变化模式以及如何在噪声数据中提取用户的核心需求

      近期发展

    • 捆绑推荐

      给用户推荐bundle(一组items)而不是单个item

      主要挑战:用户对捆绑包的决策需要考虑items的从属关系,用户和捆绑包的交互更加稀疏,高阶关联的建模

      近期发展

    • 跨域推荐

      利用用户在多领域内的历史交互,缓解冷启动和数据稀疏问题。

      主要挑战:如何整合利用不同域的信息

      近期发展

    • 多行为推荐

      利用多种行为下的交互进行推荐,来缓解数据稀疏问题。

      主要挑战:如何建模多种行为和目标行为之间的关系,如何通过行为建模物品的语义信息。

      近期发展

  3. 根据不同的推荐目标

    • 多样性

      给用户推荐不同种类的Items,减少冗余。

      主要挑战:如何增强劣势主题的信号,如何在多样性和准确性之间权衡。

      近期发展

    • 可解释性

      解释为什么给这个用户推荐这个Item

      主要挑战:如何细粒度解释

      近期发展

    • 公平性

      给不同用户的推荐结果中去偏见。

      主要挑战:如何减小推荐中的歧视和社会偏见

      近期发展

5未来发展方向

  1. 更深层的GNN,CNN加深之后性能更好了,GNN加深可以捕获更高阶的关联,但是存在过平滑等问题,同时在GNN加深的过程中,也要保证计算量是可以接受的。
  2. 动态的GNN推荐,应用场景中很多图是一直在动态变化的,如何使推荐系统自适应时间演化具有很大现实意义。
  3. 知识图谱增强的GNN推荐,利用知识图谱引入更多外部知识,提高推荐质量的同时也能考虑多样性,公平性更多指标。
  4. 效率和可扩展性,大规模工业系统中的效率和大数据量。
  5. 自监督GNN,利用自监督缓解数据稀疏问题。
  6. 对话推荐,在聊天过程中进行推荐。
  7. 自适应GNN推荐,推荐目前有很多场景,如何结合Auto ML等技术,创建通用的GNN推荐系统。

6总结

图神经网络模型在推荐系统的研究领域有了快速的发展。这篇综述提供了一个广泛的调查,系统地介绍了该领域的挑战、方法和未来方向。不仅对发展的历史,而且对最新的进展也做了充分的介绍。希望这个综述能够很好地帮助GNN推荐领域的初级和有经验的研究人员。


登录查看更多
3

相关内容

推荐系统,是指根据用户的习惯、偏好或兴趣,从不断到来的大规模信息中识别满足用户兴趣的信息的过程。推荐推荐任务中的信息往往称为物品(Item)。根据具体应用背景的不同,这些物品可以是新闻、电影、音乐、广告、商品等各种对象。推荐系统利用电子商务网站向客户提供商品信息和建议,帮助用户决定应该购买什么产品,模拟销售人员帮助客户完成购买过程。个性化推荐是根据用户的兴趣特点和购买行为,向用户推荐用户感兴趣的信息和商品。随着电子商务规模的不断扩大,商品个数和种类快速增长,顾客需要花费大量的时间才能找到自己想买的商品。这种浏览大量无关的信息和产品过程无疑会使淹没在信息过载问题中的消费者不断流失。为了解决这些问题,个性化推荐系统应运而生。个性化推荐系统是建立在海量数据挖掘基础上的一种高级商务智能平台,以帮助电子商务网站为其顾客购物提供完全个性化的决策支持和信息服务。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
「大规模图神经网络系统」最新2022综述:从算法到系统
专知会员服务
111+阅读 · 2022年1月14日
图神经网络综述
专知会员服务
195+阅读 · 2022年1月9日
【清华大学】图神经网络推荐系统综述论文
专知会员服务
76+阅读 · 2021年10月6日
图嵌入推荐系统技术综述,64页pdf422篇文献
专知会员服务
62+阅读 · 2021年9月22日
专知会员服务
55+阅读 · 2021年8月12日
【IJCAI2021】基于图学习的推荐系统综述
专知会员服务
95+阅读 · 2021年5月7日
专知会员服务
64+阅读 · 2021年5月4日
专知会员服务
138+阅读 · 2021年3月30日
【WWW2021】场矩阵分解机推荐系统
专知会员服务
31+阅读 · 2021年2月27日
图神经网络综述 (中文版),14页pdf
专知会员服务
330+阅读 · 2020年11月24日
最新基于GNN的推荐系统综述(附110篇论文下载链接)
机器学习与推荐算法
2+阅读 · 2022年2月19日
推荐系统+图神经网络,预训练技术研究进展
图与推荐
3+阅读 · 2022年1月5日
图神经网络适合做推荐系统吗?
机器学习与推荐算法
1+阅读 · 2021年12月15日
基于知识图谱的推荐系统总结
图与推荐
1+阅读 · 2021年11月11日
图神经网络+推荐系统的最新进展
图与推荐
1+阅读 · 2021年11月2日
总结 | 基于知识蒸馏的推荐系统
机器学习与推荐算法
3+阅读 · 2021年10月28日
清华最新《图神经网络推荐系统》综述论文
机器学习与推荐算法
2+阅读 · 2021年10月8日
最新基于强化学习的推荐系统综述
机器学习与推荐算法
6+阅读 · 2021年9月10日
图神经网络综述:模型与应用
PaperWeekly
196+阅读 · 2018年12月26日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
5+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
A Survey on Deep Hashing Methods
Arxiv
1+阅读 · 2022年4月19日
Pre-Training on Dynamic Graph Neural Networks
Arxiv
1+阅读 · 2022年4月18日
Arxiv
0+阅读 · 2022年4月18日
Arxiv
14+阅读 · 2021年8月5日
Arxiv
37+阅读 · 2021年2月10日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
A Comprehensive Survey on Graph Neural Networks
Arxiv
13+阅读 · 2019年3月10日
VIP会员
相关VIP内容
「大规模图神经网络系统」最新2022综述:从算法到系统
专知会员服务
111+阅读 · 2022年1月14日
图神经网络综述
专知会员服务
195+阅读 · 2022年1月9日
【清华大学】图神经网络推荐系统综述论文
专知会员服务
76+阅读 · 2021年10月6日
图嵌入推荐系统技术综述,64页pdf422篇文献
专知会员服务
62+阅读 · 2021年9月22日
专知会员服务
55+阅读 · 2021年8月12日
【IJCAI2021】基于图学习的推荐系统综述
专知会员服务
95+阅读 · 2021年5月7日
专知会员服务
64+阅读 · 2021年5月4日
专知会员服务
138+阅读 · 2021年3月30日
【WWW2021】场矩阵分解机推荐系统
专知会员服务
31+阅读 · 2021年2月27日
图神经网络综述 (中文版),14页pdf
专知会员服务
330+阅读 · 2020年11月24日
相关资讯
最新基于GNN的推荐系统综述(附110篇论文下载链接)
机器学习与推荐算法
2+阅读 · 2022年2月19日
推荐系统+图神经网络,预训练技术研究进展
图与推荐
3+阅读 · 2022年1月5日
图神经网络适合做推荐系统吗?
机器学习与推荐算法
1+阅读 · 2021年12月15日
基于知识图谱的推荐系统总结
图与推荐
1+阅读 · 2021年11月11日
图神经网络+推荐系统的最新进展
图与推荐
1+阅读 · 2021年11月2日
总结 | 基于知识蒸馏的推荐系统
机器学习与推荐算法
3+阅读 · 2021年10月28日
清华最新《图神经网络推荐系统》综述论文
机器学习与推荐算法
2+阅读 · 2021年10月8日
最新基于强化学习的推荐系统综述
机器学习与推荐算法
6+阅读 · 2021年9月10日
图神经网络综述:模型与应用
PaperWeekly
196+阅读 · 2018年12月26日
相关基金
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
5+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
相关论文
Top
微信扫码咨询专知VIP会员