【KDD2020】AutoFIS: 因数分解模型中用于预测点击率的自动特征交互选择

2020 年 5 月 27 日 专知

图1:AutoFIS的模型图

      对特征交互进行建模是推荐系统中的一个重要问题。在现有的深度推荐模型中,特征交互是由专家设计或者简单枚举得到。但是,简单枚举所有的特征交互会占用大量的内存和计算时间。更糟糕的是,无效的特征交互会引入不必要的噪声,干扰推荐模型的训练。在本工作中,我们提出了一个两阶段的模型AutoFIS。

AutoFIS可以为因子分解类模型自动定义出所有重要的特征交互,而并不过多地增加训练时间。在搜索阶段,为了实现在特征交互的离散集合上进行搜索,我们引入连续型结构变量来辅助搜索。通过在这些结构变量上加入约束型优化器,我们的模型在训练过程中可以自动定位并删除无效的特征交互。在重训练阶段,我们将这些结构变量当做注意力机制的权重参数来重新训练,以进一步提升模型的精度。我们在公开数据集和产品数据集上验证,AutoFIS可以提升因子分解类模型的精度(AUC和Logloss)。该方法简单有效,得到KDD评委的高度认可,得到3/2/2的分数,其中meta review的评价是:”Overall the paper presents a novel idea, it is well written and the evaluation is very thorough”。

该工作已经公开https://arxiv.org/abs/2003.11235。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“AUTOFIS” 可以获取《AutoFIS: 因数分解模型中用于预测点击率的自动特征交互》专知下载链接索引

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取5000+AI主题知识资源
登录查看更多
0

相关内容

专知会员服务
43+阅读 · 2020年7月7日
【CVPR2020-CMU】无数据模型选择,一种深度框架潜力
专知会员服务
23+阅读 · 2020年4月12日
【综述】视频摘要最新综述文章,附45页综述全文下载
专知会员服务
34+阅读 · 2019年9月20日
机器学习数学基础【附PPT下载】
专知
46+阅读 · 2018年9月17日
已删除
AI科技评论
4+阅读 · 2018年8月12日
【推荐】自动特征工程开源框架
机器学习研究会
17+阅读 · 2017年11月7日
Generating Fact Checking Explanations
Arxiv
9+阅读 · 2020年4月13日
Adaptive Neural Trees
Arxiv
4+阅读 · 2018年12月10日
VIP会员
相关VIP内容
专知会员服务
43+阅读 · 2020年7月7日
【CVPR2020-CMU】无数据模型选择,一种深度框架潜力
专知会员服务
23+阅读 · 2020年4月12日
【综述】视频摘要最新综述文章,附45页综述全文下载
专知会员服务
34+阅读 · 2019年9月20日
Top
微信扫码咨询专知VIP会员