NeurIPS 2019 论文分享 | 华为诺亚方舟:基于少量数据的神经网络模型压缩技术

2019 年 11 月 18 日 机器之心
在最新一期的NeuIPS 2019 线上论文分享中,我们邀请到了华为诺亚方舟实验室研究员许奕星为我们介绍模型压缩这一热门研究主题。


12 月 8 日-14 日,NeurIPS 2019 将于加拿大温哥华举办。作为人工智能领域的国际顶级会议,如同往年一样,今年的 NeurlPS 如同往年一样备受关注,因注册人数过多,今年参会门票都要凭运气抽彩票决定了。


在论文方面,今年大会投稿数量也创下了历史新纪录,一共提交 6743 篇有效论文,接收 1428 篇,接受率为 21.17%。


本届 NeurIPS,机器之心为读者们精心策划了 NeurIPS 2019 专题,包括线上分享、论文解读、现场报道等内容。这是机器之心 NeurIPS 2019 线上分享的第二期,我们邀请到了华为诺亚方舟实验室研究员许奕星为我们介绍模型压缩这一热门研究主题。


讲者简介:许奕星,诺亚方舟实验室研究员,北京大学智能科学系硕士,浙江大学学士。师从北京大学许超教授和悉尼大学陶大程教授。曾在 msra 实习。研究兴趣主要包括计算机视觉、机器学习和深度学习,在 I JCAI、NIPS、AAAI 等会议发表论文数篇。 目前主要研究方向为神经网络模型小型化,神经网络自动搜索以及半监督学习。


演讲摘要:神经网络的小型化已经在 cnn 网络中取得了巨大的成功,并且能够在终端设备上例如手机、相机等进行落地应用。然而,由于隐私方面等限制,在实际进行神经网络的小型化时,可能只存在少量标记过的训练数据。如何在这种情况下压缩神经网络并取得好的结果,是急需解决的问题。本讲座首先介绍了半监督学习的正类与未标记学习(pu learning)方法,之后介绍了基于 pu learning 的少量数据下的神经网络模型压缩方法。


论文:https://arxiv.org/pdf/1909.09757.pdf


时间:北京时间 11 月 21 日 20:00-21:00



NeurIPS 2019 机器之心线上分享


在 NeurIPS 2019 收录的大量优秀论文中,我们将选出数篇优质论文,邀请论文作者来做线上分享。整场分享包括两个部分:论文解读和互动答疑。论文解读包括使用技术介绍、理论方法解读和具体代码实现。


线上分享将在「NeurIPS 2019 交流群」中进行,加群方式:添加机器之心小助手(syncedai4),备注「AI」,邀请入群。入群后将会公布直播链接。


戳「阅读原文」,查看机器之心NeurIPS 2019专题报道并参与其中。

登录查看更多
3

相关内容

模型压缩,多指AI领域,多学习生成的模型进行压缩,简化,同时又要保证一定的可靠性,便于模型在低端设备上部署。
基于小样本学习的图像分类技术综述
专知会员服务
148+阅读 · 2020年5月6日
基于深度学习的多标签生成研究进展
专知会员服务
141+阅读 · 2020年4月25日
抢鲜看!13篇CVPR2020论文链接/开源代码/解读
专知会员服务
49+阅读 · 2020年2月26日
【自动化学报】零样本学习研究进展,中国石油大学
专知会员服务
87+阅读 · 2020年1月27日
八篇NeurIPS 2019【图神经网络(GNN)】相关论文
专知会员服务
43+阅读 · 2020年1月10日
Uber AI NeurIPS 2019《元学习meta-learning》教程,附92页PPT下载
专知会员服务
112+阅读 · 2019年12月13日
【NeurIPS2019】图变换网络:Graph Transformer Network
专知会员服务
110+阅读 · 2019年11月25日
深度神经网络模型压缩与加速综述
专知会员服务
128+阅读 · 2019年10月12日
猿桌会 | 语音识别技术分享
AI研习社
5+阅读 · 2018年11月14日
Arxiv
14+阅读 · 2019年9月11日
Arxiv
6+阅读 · 2019年7月11日
Arxiv
7+阅读 · 2018年9月27日
Arxiv
3+阅读 · 2018年8月17日
Meta-Learning with Latent Embedding Optimization
Arxiv
6+阅读 · 2018年7月16日
Arxiv
5+阅读 · 2017年10月27日
VIP会员
相关VIP内容
基于小样本学习的图像分类技术综述
专知会员服务
148+阅读 · 2020年5月6日
基于深度学习的多标签生成研究进展
专知会员服务
141+阅读 · 2020年4月25日
抢鲜看!13篇CVPR2020论文链接/开源代码/解读
专知会员服务
49+阅读 · 2020年2月26日
【自动化学报】零样本学习研究进展,中国石油大学
专知会员服务
87+阅读 · 2020年1月27日
八篇NeurIPS 2019【图神经网络(GNN)】相关论文
专知会员服务
43+阅读 · 2020年1月10日
Uber AI NeurIPS 2019《元学习meta-learning》教程,附92页PPT下载
专知会员服务
112+阅读 · 2019年12月13日
【NeurIPS2019】图变换网络:Graph Transformer Network
专知会员服务
110+阅读 · 2019年11月25日
深度神经网络模型压缩与加速综述
专知会员服务
128+阅读 · 2019年10月12日
相关论文
Top
微信扫码咨询专知VIP会员