ICML 2020 揭榜！北理工研二一作获杰出论文，时间考验奖表彰10年前经典论文

---

  新智元报道  

来源：ICML

编辑：新智元编辑部

【新智元导读】ICML 2020 杰出论文奖出炉！本次共有5篇论文获奖，北京理工大学的一作学生魏恺轩斩获了本届杰出论文的其中一篇。同时本届会议也颁布了时间考验奖，表彰10年前的经典论文。

  

刚刚，ICML 2020 颁布了5 篇获奖论文，时间考验奖1篇，杰出论文奖和杰出论文荣誉提名奖各2篇。来自北京理工大学的一作学生魏恺轩获得了杰出论文奖。

 

ICML 2020 是第37届年会，原定于在奥地利维也纳7月13日至18日举行的会议，受疫情影响，本届会议采用虚拟会议的形式举行。

       

从6月3日放出的论文接收结果来看，ICML 2020共提交了4990篇论文，接受了1088篇论文，接受率仅为21.8%，较前几年来讲都有下降，去年的接受率为22.6%。

 

从论文总数来看，美国依旧实力霸榜，参与了728篇被接受的论文，占到60%还多。排在第二位的是英国（123 篇），第三位是中国大陆（122 篇）。

 

发表论文数量最多的作者是日本东京大学教授 Masashi Sugiyama ，他共有 11 篇论文被接收。他拥有东京工业大学计算机科学博士学位，研究兴趣包括机器学习与数据挖掘的理论、算法和应用，涉及信号处理、图像处理、机器人控制等。

       

大神Yoshua Bengio共有5篇论文被收录。

ICML 2020 华人作者入围情况

华人学者共有435名，一作华人学生有118人。

 

据AMiner统计，入选论文数量前50名作者中，华人占据了14位。华人投稿接收论文数量最高的为8篇，作者是斯坦福大学的 Percy Liang。

       

排在第二位来自西北大学的作者 Zhaoran Wang，共有7篇论文入选。

       

第三、四名都是来自普林斯顿大学的Chi Jin和Zhuoran Yang，共有6篇论文入选。

       

一作华人学生榜单中，来自哥伦比亚大学的博士生Yunhao (Robin) Tang入围了4篇论文。

北理工研二学生一作获杰出论文奖，时间考验奖表彰10年前经典

 

杰出论文1：On Learning Sets of Symmetric Elements

 

链接： https://arxiv.org/pdf/2002.08599.pdf

       

学习无序集是一种基础的学习方法，近年来受到越来越多研究者的关注。这方面的研究场景通常是用特征向量来表示集合元素，而很少关注到，集合元素一般本身遵循其自身对称性。从消除影像脉冲到多视图三维形状识别和重建，这种情况涉及到许多应用。本文提出了一种学习一般对称元素集的原则方法。首先描述线性层的空间，这些层对于元素的重新排序和元素的内在对称性都是等价的，就像图像中的平移。进一步，我们进一步证明，由这些层组成的网络（对称元素层的深度集合）是不变和等变函数的通用近似器。DSS层的实现也很简单。最后，我们用图像、图形和点云进行了一系列实验，证明了这个模型的性能比现有的集学习架构有所改进。

杰出论文2：Tuning-free Plug-and-Play Proximal Algorithm for Inverse Imaging Problems

 

链接： https://arxiv.org/pdf/2002.09611.pdf

       

即插即用（PnP）是将ADMM或高级降噪先验与近端算法相结合的非凸框架。最近，PnP取得了巨大的实验成功，特别是集成了基于深度学习的降噪器。但是，基于PnP的方法的关键问题是需要手动调整参数。成像条件和场景内容必须存在高度差异，才能获得高质量的结果。在这项工作中，我们提出了一种免调参的PnP近端算法，该算法可以自动调整内部参数，包括惩罚参数，降噪强度和终止时间。

 

论文的关键部分是开发了一个用于参数自动搜索的策略网络，可以通过混合无模型和基于模型的深度强化学习来有效地学习这些参数。通过实验，我们证明了所学习的策略可以针对不同的状态自定义不同的参数，并且比现有的手工规则更有效。此外还讨论了如何将插入式降噪器与我们所学到的策略相结合可达到SOTA结果。这种方法在线性和非线性逆成像问题中很流行，尤其是在压缩感知MRI和相位恢复上取得了不错的结果。

 

一作魏恺轩本科和硕士都就读于北京理工大学，目前是二年级的硕士研究生，师从付莹教授。

 

在此期间，魏恺轩在2019年夏季作为剑桥大学的图像分析小组的访问学生，还曾与亚州微软研究院的杨蛟龙博士进行合作在CVPR 2020 发表了「A Physics-based Noise Formation Model for Extreme Low-light Raw Denoising」一文。

 

魏恺轩表示，自己的研究兴趣在于机器学习，深度学习，变异优化和统计建模/推理与计算摄影，计算成像和低级图像处理应用程序的交叉领域。

 

还有两篇获得杰出论文荣誉提名奖：

 

论文：Efficiently sampling functions from Gaussian process posteriors

链接：https://arxiv.org/pdf/2002.09309.pdf

 

论文：Generative Pretraining From Pixels

链接：

https://cdn.openai.com/papers/Generative_Pretraining_from_Pixels_V2.pdf

 

时间考验奖

 

ICML 2020 时间考验奖颁给了2010年的一项研究，第一作者是来自加州理工学院的 Niranjan Srinivas。

 

Gaussian Process Optimization in the Bandit Setting: No Regret and Experimental Desig

 

链接：https://arxiv.org/pdf/0912.3995.pdf

           

该论文通过分析高斯过程的强盗优化，将贝叶斯优化、土匪优化和实验设计领域结合在一起，给出了一种基于互信息增益量导出有限样本界限的新方法。在过去的十年中，本文产生了深远的影响，包括方法本身，使用的证明技术和实际结果。在提名该奖项的论文时，本届委员会的成员对此论文给予了高度评价：

 

「本文的研究结果影响了现代深度学习系统中当前的超参数搜索方法，并且该算法甚至在十年后仍然是一种流行的获取算法。最近的论文中引用了本文的定理和引理，并且他们的研究成果是在后续论文中借用的。从文本的技术深度和影响力来看，这篇论文明显脱颖而出。」

 

「在过去的十年中，贝叶斯优化已成为解决许多机器学习问题的有力工具……证明中使用的数学技术极大地影响了后来的研究。」

谷歌超110篇一骑绝尘，国内高校清华居首 

根据谷歌AI博客统计，本次来自于 Google 的论文一共被收录了116 篇，位居所有企业与科研机构之首，相当于所有收录论文的1/10还多，足见其机器学习的行业领军地位。其次是麻省理工学院、斯坦福大学和伯克利大学，均超过50篇。

 

其他企业界收录情况（据不完全统计）：

 

微软：共 48 篇论文被接收

Facebook：共 39 篇论文被接收

Intel：共 5 篇论文被接收

NVIDIA：共 5 篇论文被接收

Apple：共 3 篇论文被接收

 

据不完全统计，在接收的1088篇论文中，中国大陆高校和机构总共占了122篇，超过10%。 国内高校的投稿收录数量也业界领先，清华大学（26篇）、北京大学（18篇）、上海交通大学（13篇）占据前三，而投稿最多机构为阿里巴巴，百度和华为。

 

参考链接：

https://icml.cc/

https://aminer.cn/conf/icml2020