理解用户的偏好在推荐场景尤为重要。然而在真实的工业场景(如支付宝APP)中,往往会针对一些特定的人群,如低活跃用户、新用户等,专门推荐特殊的券、权益、服务等,希望以此来提高其在特点产品中的活跃程度。但是直接使用这种低活跃场景的数据做建模是困难的,原因是这种场景往往标签少,且低活跃用户的特征稀少。

为了解决这种数据稀疏问题,一个常用的方法是迁移学习或多任务学习。即寻找一个数据充分的源领域场景,把该领域的知识迁移到目标领域,以解决目标领域缺少数据的问题。近年来,基于深度学习的跨领域迁移学习方法得到了广泛使用,比如基于实例的方法、映射的方法、基于网络的方法、基于对抗的方法等等。自然地,为了帮助某个目标领域的人群学的更好,通常可以加入拥有更大量级的用户在支付宝全域行为数据作为源领域,辅助目标领域的学习,通过上述迁移或多目标任务的方式。

然而,已有方法只关注如何将源领域的知识迁移应用到目标领域,而忽略了在迁移之前,源、目标领域是否具备一个合理的表征空间,使得任务可以迁移。以低活跃用户/新用户为例,这些用户自身特征几乎没有。简单的迁移无法将源丰富的信息对齐到他们身上。

为此,蚂蚁集团的研究人员提出一种结合图神经网络来做表征的迁移方法,该方法可以为低活跃用户/新用户学到更好的表征并应用于推荐中。思路很简单,分为两步:(1)对于无论是源领域用户还是目标领域用户,分析关系数据,探索什么关系对于用户自身的行为具有强相关性。找到强相关的关系数据,就可以通过去除自身的关系数据来表征自身。这样,模型就可以将无论是源领域还是目标领域的用户表征放在同一个表征空间下。(2)通过经典迁移方法将源领域的信息迁移到目标领域,从而帮助目标领域学的更好。

基于此,蚂蚁集团的研究人员提出了一种结合GNN表征学习能力的跨领域联合建模方案CD-GNN(Cross Domain-Graph Neural Networks),解决源领域和目标领域通过网络关联的情况下进行跨领域建模的问题。接下来,本文将介绍该方法的实现细节,及其在低活跃用户上的应用。

成为VIP会员查看完整内容
28

相关内容

图神经网络 (GNN) 是一种连接模型,它通过图的节点之间的消息传递来捕捉图的依赖关系。与标准神经网络不同的是,图神经网络保留了一种状态,可以表示来自其邻域的具有任意深度的信息。近年来,图神经网络(GNN)在社交网络、知识图、推荐系统、问答系统甚至生命科学等各个领域得到了越来越广泛的应用。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
CIKM2021 | 异质图上的图神经网络对比预训练
专知会员服务
15+阅读 · 2021年11月8日
专知会员服务
16+阅读 · 2021年9月18日
专知会员服务
49+阅读 · 2021年6月2日
专知会员服务
95+阅读 · 2021年5月25日
【WWW2021】用优化框架解释和统一图神经网络
专知会员服务
44+阅读 · 2021年2月1日
专知会员服务
37+阅读 · 2020年11月24日
【KDD2020-UCLA-微软】GPT-GNN:图神经网络的预训练
专知会员服务
62+阅读 · 2020年8月19日
最新《图神经网络模型与应用》综述论文
专知会员服务
293+阅读 · 2020年8月2日
【图神经网络(GNN)结构化数据分析】
专知会员服务
115+阅读 · 2020年3月22日
基于图神经网络的知识图谱研究进展
AI科技评论
20+阅读 · 2020年8月31日
【长文综述】基于图神经网络的知识图谱研究进展
深度学习自然语言处理
14+阅读 · 2020年8月23日
基于图神经网络的聚类研究与应用
THU数据派
10+阅读 · 2020年5月29日
ICML2020 图神经网络的预训练
图与推荐
12+阅读 · 2020年4月4日
图神经网络(GNN)结构化数据分析
专知
5+阅读 · 2020年3月22日
基于 GNN 的图表示学习
DataFunTalk
9+阅读 · 2020年1月17日
【GNN】深度学习之上,图神经网络(GNN )崛起
产业智能官
16+阅读 · 2019年8月15日
HAN:基于双层注意力机制的异质图深度神经网络
黑龙江大学自然语言处理实验室
19+阅读 · 2019年5月7日
独家 | 一文读懂迁移学习(附学习工具包)
数据派THU
11+阅读 · 2017年7月13日
Arxiv
23+阅读 · 2020年9月16日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
15+阅读 · 2020年2月5日
Heterogeneous Deep Graph Infomax
Arxiv
12+阅读 · 2019年11月19日
Tutorial on NLP-Inspired Network Embedding
Arxiv
7+阅读 · 2019年10月16日
Arxiv
11+阅读 · 2018年10月17日
VIP会员
相关VIP内容
CIKM2021 | 异质图上的图神经网络对比预训练
专知会员服务
15+阅读 · 2021年11月8日
专知会员服务
16+阅读 · 2021年9月18日
专知会员服务
49+阅读 · 2021年6月2日
专知会员服务
95+阅读 · 2021年5月25日
【WWW2021】用优化框架解释和统一图神经网络
专知会员服务
44+阅读 · 2021年2月1日
专知会员服务
37+阅读 · 2020年11月24日
【KDD2020-UCLA-微软】GPT-GNN:图神经网络的预训练
专知会员服务
62+阅读 · 2020年8月19日
最新《图神经网络模型与应用》综述论文
专知会员服务
293+阅读 · 2020年8月2日
【图神经网络(GNN)结构化数据分析】
专知会员服务
115+阅读 · 2020年3月22日
相关资讯
基于图神经网络的知识图谱研究进展
AI科技评论
20+阅读 · 2020年8月31日
【长文综述】基于图神经网络的知识图谱研究进展
深度学习自然语言处理
14+阅读 · 2020年8月23日
基于图神经网络的聚类研究与应用
THU数据派
10+阅读 · 2020年5月29日
ICML2020 图神经网络的预训练
图与推荐
12+阅读 · 2020年4月4日
图神经网络(GNN)结构化数据分析
专知
5+阅读 · 2020年3月22日
基于 GNN 的图表示学习
DataFunTalk
9+阅读 · 2020年1月17日
【GNN】深度学习之上,图神经网络(GNN )崛起
产业智能官
16+阅读 · 2019年8月15日
HAN:基于双层注意力机制的异质图深度神经网络
黑龙江大学自然语言处理实验室
19+阅读 · 2019年5月7日
独家 | 一文读懂迁移学习(附学习工具包)
数据派THU
11+阅读 · 2017年7月13日
相关论文
Arxiv
23+阅读 · 2020年9月16日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
15+阅读 · 2020年2月5日
Heterogeneous Deep Graph Infomax
Arxiv
12+阅读 · 2019年11月19日
Tutorial on NLP-Inspired Network Embedding
Arxiv
7+阅读 · 2019年10月16日
Arxiv
11+阅读 · 2018年10月17日
微信扫码咨询专知VIP会员