基于次模优化的规则学习算法框架,达摩院一作解读NeurIPS 2021 Spotlight论文

2021 年 11 月 29 日 机器之心


学习人类可理解的规则模型是可解释机器学习领域的重要研究方向之一,也和机器学习中的自动特征工程任务和数据挖掘中的子群体发现任务高度相关。传统规则学习算法多采用启发式规则生成+规则选择的两阶段范式,难以直接控制最终规则模型的精度和可解释性。


在一篇 NeurIPS 2021 Spotlight论文中,来自阿里巴巴达摩院的杨帆等多位研究者首次提出了一个完整的基于次模化的规则算法框架。他们设计了一个具有次模性的通用目函数,其可以兼顾规则集合的精度、复度和重叠度。


此外,论文作者们一步发现使用具近似保心算法化此目函数,生成最大化增益的规则的子问题可以被最大化两个次模函数的差。基于此发现,作者们设计了一个利用问题次模性的迭代式算法问题进行近似求解。相于此前方法,该算法在精度、可解性和算效率三者取得了良好平衡,并可能从次模化的一步研究中益。



论文链接:https://papers.nips.cc/paper/2021/file/eaa32c96f620053cf442ad32258076b9-Paper.pdf

12 月 1 日晚 7 点,机器之心 NeurIPS 2021 线上系列分享邀请到该论文的第一作者杨帆为我们解读这项研究。其他作者也均为阿里巴巴达摩院的研究者。


分享主题:Learning Interpretable Decision Rule Sets: A Submodular Optimization Approach

分享摘要 :学习高质量的规则模型是可解释机器学习领域的重要问题之一,也和机器学习中的自动特征工程任务和数据挖掘中的子群体发现任务高度相关。这篇文章中深入研究了这个问题的次模性质,并给出了有效的新求解思路。

嘉宾简介 :杨帆,本科和硕士毕业于浙江大学计算机学院,现就职于阿里巴巴达摩院决策智能实验室,负责可解释机器学习、时间序列分析、异常检测诊断等技术的研发及其在高风险决策场景中的落地。他的研究兴趣包括可解释白盒模型的构建,黑盒模型的可解释性,不确定性建模和概率生成式模型,成果发表于 NeurIPS, ICLR 等会议。

分享时间 :12 月 1 日 19:00-20:00

直播间:关注机动组视频号,北京时间 12 月 1 日开播。

交流群 本次直播设有 QA 环节,欢迎加入本次直播交流群探讨交流。

如群已超出人数限制,请添加机器之心小助手:syncedai2、syncedai3、syncedai4 或 syncedai5,备注「NeurIPS」即可加入。



机器之心 · 机动组

机动组是机器之心发起的人工智能技术社区,聚焦于学术研究与技术实践主题内容,为社区用户带来技术线上公开课、学术分享、技术实践、走近顶尖实验室等系列内容。机动组也将不定期举办线下学术交流会与组织人才服务、产业技术对接等活动,欢迎所有 AI 领域技术从业者加入。

  • 访问机动组官网,观看往期回顾:https://jmq.h5.xeknow.com/s/2XX6g5(点击阅读原文直达)

  • 关注机动组服务号,获取每周直播预告。

登录查看更多
2

相关内容

【AAAI2022】一种基于状态扰动的鲁棒强化学习算法
专知会员服务
34+阅读 · 2022年1月31日
NeurIPS 2021 | 用简单的梯度下降算法逃离鞍点
专知会员服务
23+阅读 · 2021年12月6日
【NeurIPS 2021】基于次模优化的规则学习算法框架
专知会员服务
33+阅读 · 2021年11月30日
NeurIPS 20201接收论文列表发布,2334篇论文都在这了!
专知会员服务
37+阅读 · 2021年11月4日
【NeurIPS 2021】设置多智能体策略梯度的方差
专知会员服务
20+阅读 · 2021年10月24日
逆优化: 理论与应用
专知会员服务
36+阅读 · 2021年9月13日
ICML 2021论文收录
专知会员服务
122+阅读 · 2021年5月8日
近期必读的六篇 ICML 2020【域自适应】相关论文
专知会员服务
46+阅读 · 2020年9月29日
深度学习批归一化及其相关算法研究进展
专知会员服务
51+阅读 · 2020年7月17日
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
2+阅读 · 2008年12月31日
Age Optimal Sampling Under Unknown Delay Statistics
Arxiv
0+阅读 · 2022年4月20日
Arxiv
0+阅读 · 2022年4月19日
VIP会员
相关VIP内容
【AAAI2022】一种基于状态扰动的鲁棒强化学习算法
专知会员服务
34+阅读 · 2022年1月31日
NeurIPS 2021 | 用简单的梯度下降算法逃离鞍点
专知会员服务
23+阅读 · 2021年12月6日
【NeurIPS 2021】基于次模优化的规则学习算法框架
专知会员服务
33+阅读 · 2021年11月30日
NeurIPS 20201接收论文列表发布,2334篇论文都在这了!
专知会员服务
37+阅读 · 2021年11月4日
【NeurIPS 2021】设置多智能体策略梯度的方差
专知会员服务
20+阅读 · 2021年10月24日
逆优化: 理论与应用
专知会员服务
36+阅读 · 2021年9月13日
ICML 2021论文收录
专知会员服务
122+阅读 · 2021年5月8日
近期必读的六篇 ICML 2020【域自适应】相关论文
专知会员服务
46+阅读 · 2020年9月29日
深度学习批归一化及其相关算法研究进展
专知会员服务
51+阅读 · 2020年7月17日
相关基金
国家自然科学基金
7+阅读 · 2014年12月31日
国家自然科学基金
6+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
18+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
2+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员