上交最新深度元学习推荐算法综述

2022 年 6 月 11 日 机器学习与推荐算法
嘿,记得给“机器学习与推荐算法”添加星标

近年来,基于深度神经网络的推荐系统作为信息过滤技术取得了巨大成功。然而,由于完全从零开始训练模型需要足够的数据,因此基于深度学习的推荐方法仍然面临着数据不足和计算效率低下的瓶颈。

论文:https://arxiv.org/abs/2206.04415

具体地,本文提出了一个分类方法,根据推荐场景、元学习技术和元知识表示法来讨论现有的方法,以此来为基于元学习的推荐方法提供充足的设计空间。另外,对于每个推荐场景,其进一步讨论了关于现有方法如何应用元学习来提高推荐模型的泛化能力的技术细节。最后,本文还指出了当前研究的几个局限性,并强调了该领域未来研究的一些潜力方向。

在本文中,根据三个独立的角度来进行了分类,包括推荐场景、元学习技术和元知识表示。图1展示了这一分类方法。

其中,推荐应用场景展示了"where"的作用,即展示了将元学习技术应用在了具体哪些推荐场景中。在这一部分,具体关注在了冷启动推荐场景、点击率预估场景、在线推荐场景、兴趣点推荐场景、序列化推荐场景以及跨域推荐场景。这些场景的共性是存在数据稀疏等问题,因为很合理的将元学习技术应用于此。

元学习技术展示了"how"的作用,即如何应用元学习来增强新推荐任务的泛化能力。根据之前文章的分类方式,将其分为了基于度量的元学习方法、基于模型的元学习方法以及基于优化的元学习方法。

元知识表示展示了"what"的作用,即具体哪些元知识的表示形式,有利于提高推荐模型的快速学习。在对已有文献进行提炼后,本文总结出了常用的元知识表示形式为,即参数初始化、参数调制、超参数、样本权重、嵌入空间和元模型等表示形式。

另外,本文还根据任务中交互数据的共同属性,将任务构建方式归纳为用户特定任务、项目特定任务、时间特定任务和序列特定任务四类。并将目前的主流方法进行了归类。

下图展示了用户特定任务、项目特定任务、时间特定任务和序列特定任务的构建方式,分别是以用户侧、物品侧、时间侧以及序列数据进行了任务划分。

另外,本文还根据推荐场景将目前主流的基于元学习的推荐方法进行了归类,并总结了其所利用的具体元学习的技术以及所使用的元知识表示形式。

冷启动推荐场景下的元学习技术总结

点击率预估场景下的元学习技术总结

在线推荐场景下的元学习技术总结

兴趣点推荐场景下的元学习技术总结

最后,本文给出了一些潜在的研究方向,包括任务过拟合问题、任务异质性问题、使用辅助信息的任务增强以及关于推荐模型的架构搜索等。

更多细节可参见原文。


欢迎干货投稿 \ 论文宣传 \ 合作交流

推荐阅读

多任务学习推荐模型ESMM原理与实现
SimpleX: 一个简单且有效的协同过滤框架
论文周报 | 推荐系统领域最新研究进展

由于公众号试行乱序推送,您可能不再准时收到机器学习与推荐算法的推送。为了第一时间收到本号的干货内容, 请将本号设为星标,以及常点文末右下角的“在看”。

喜欢的话点个在看吧👇
登录查看更多
1

相关内容

Meta Learning,元学习,也叫 Learning to Learn(学会学习)。是继Reinforcement Learning(增强学习)之后又一个重要的研究分支。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
「基于联邦学习的推荐系统」最新2022研究综述
专知会员服务
74+阅读 · 2022年5月21日
对话推荐算法研究综述
专知会员服务
36+阅读 · 2022年4月4日
基于强化学习的推荐研究综述
专知会员服务
83+阅读 · 2021年10月21日
图嵌入推荐系统技术综述,64页pdf422篇文献
专知会员服务
63+阅读 · 2021年9月22日
专知会员服务
56+阅读 · 2021年8月12日
基于知识图谱的推荐系统研究综述
专知会员服务
328+阅读 · 2020年8月10日
专知会员服务
87+阅读 · 2020年1月20日
「对话推荐算法」最新2022研究综述
专知
6+阅读 · 2022年4月5日
基于多目标优化的推荐系统综述
机器学习与推荐算法
6+阅读 · 2021年12月27日
基于区块链技术的推荐算法综述
机器学习与推荐算法
2+阅读 · 2021年12月1日
综述 | 推荐系统里预训练模型
图与推荐
1+阅读 · 2021年11月23日
基于图神经网络的推荐算法总结
机器学习与推荐算法
25+阅读 · 2021年9月30日
厦大最新《强化学习推荐系统》综述论文
机器学习与推荐算法
7+阅读 · 2021年9月24日
基于对比学习的推荐算法总结
机器学习与推荐算法
1+阅读 · 2021年9月16日
2021上交跨域推荐最新综述论文
机器学习与推荐算法
3+阅读 · 2021年8月30日
AI综述专栏 | 跨领域推荐系统文献综述(上)
人工智能前沿讲习班
13+阅读 · 2018年5月16日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
Arxiv
1+阅读 · 2022年7月29日
Arxiv
35+阅读 · 2022年3月14日
Arxiv
19+阅读 · 2021年1月14日
Arxiv
102+阅读 · 2020年3月4日
Arxiv
22+阅读 · 2018年8月30日
Arxiv
26+阅读 · 2018年8月19日
Arxiv
17+阅读 · 2018年4月2日
VIP会员
相关VIP内容
「基于联邦学习的推荐系统」最新2022研究综述
专知会员服务
74+阅读 · 2022年5月21日
对话推荐算法研究综述
专知会员服务
36+阅读 · 2022年4月4日
基于强化学习的推荐研究综述
专知会员服务
83+阅读 · 2021年10月21日
图嵌入推荐系统技术综述,64页pdf422篇文献
专知会员服务
63+阅读 · 2021年9月22日
专知会员服务
56+阅读 · 2021年8月12日
基于知识图谱的推荐系统研究综述
专知会员服务
328+阅读 · 2020年8月10日
专知会员服务
87+阅读 · 2020年1月20日
相关资讯
「对话推荐算法」最新2022研究综述
专知
6+阅读 · 2022年4月5日
基于多目标优化的推荐系统综述
机器学习与推荐算法
6+阅读 · 2021年12月27日
基于区块链技术的推荐算法综述
机器学习与推荐算法
2+阅读 · 2021年12月1日
综述 | 推荐系统里预训练模型
图与推荐
1+阅读 · 2021年11月23日
基于图神经网络的推荐算法总结
机器学习与推荐算法
25+阅读 · 2021年9月30日
厦大最新《强化学习推荐系统》综述论文
机器学习与推荐算法
7+阅读 · 2021年9月24日
基于对比学习的推荐算法总结
机器学习与推荐算法
1+阅读 · 2021年9月16日
2021上交跨域推荐最新综述论文
机器学习与推荐算法
3+阅读 · 2021年8月30日
AI综述专栏 | 跨领域推荐系统文献综述(上)
人工智能前沿讲习班
13+阅读 · 2018年5月16日
相关基金
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
相关论文
Arxiv
1+阅读 · 2022年7月29日
Arxiv
35+阅读 · 2022年3月14日
Arxiv
19+阅读 · 2021年1月14日
Arxiv
102+阅读 · 2020年3月4日
Arxiv
22+阅读 · 2018年8月30日
Arxiv
26+阅读 · 2018年8月19日
Arxiv
17+阅读 · 2018年4月2日
Top
微信扫码咨询专知VIP会员