【学界】同行评审是这样略读论文的!Ian Goodfellow实力「嘲讽」了一波

2018 年 8 月 1 日 GAN生成式对抗网络

来源:机器之心


「我怀疑同行评审实际上会造成而非减轻 Zachary Lipton 和 Jacob Steinhardt 不久之前在文章《Troubling Trends in Machine Learning Scholarship》中总结的怪趋势。」今日,谷歌大脑知名研究科学家、GAN 的提出者 Ian Goofellow 在 Twitter 上发表多条信息炮轰同行评审机制。


质疑同行评审


今日,谷歌大脑研究科学家 Ian Goofellow 发了一条 Twitter,引起了大家激烈的讨论:


我怀疑同行评审实际上会造成而非减轻 Zachary Lipton 和 Jacob Steinhardt 不久之前在文章《Troubling Trends in Machine Learning Scholarship》中总结的怪趋势。


最近,「同行评审」一直是 Reddit 上与 Twitter 上的热门话题,从本科毕业生成为评审NIPS 2018 评审结果的出炉,都引发了 AI/ML 学者对同行评审机制的讨论。


在这条帖子中,Ian Goodfellow 毫不客气地质疑同行评审的作用,认为这种机制会造成而非减缓 Zachy Lipton 在 ICML 2018 期间总结的机器学习研究中的怪现状,也就是:


  1. 无法区分客观阐述和猜想。

  2. 无法确定达到好效果的来源,例如,当实际上是因为对超参数微调而获得好效果的时候,却强调不必要修改神经网络结构。

  3. 数学性:使用令人混淆的数学术语而不加以澄清,例如混淆技术与非技术概念。

  4. 语言误用,例如,使用带有口语的艺术术语,或者过多的使用既定的技术术语。

(详细内容请参见:机器学习近年来之怪现状)。


同时,Ian Goodfellow 的观点也得到了 Zachy Lipton 的赞同,表示同行评审机制的退化也应该被列在在文章的「原因」章节之下。


之后,Ian Goodfellow 接连发了多条 Twitter,「嘲讽」评审论文方式:


我常常担任某领域的主席,且自己管理了一个小型研究组织,因此我看过大量评审,包括我们组的研究成果和其他人的研究。


通常评审人员读到实验性论文时会抱怨缺乏「理论」。但是他们却并不要求理论论文来解决任何特定问题。我认为他们就是为了找到一个拒绝的理由——他们略读论文,没有看到论文中的方程。


这可以通过添加无用的数学来解决,评审者通常不会因为其无用而指出来。这样论文就通过了「我略读论文,也看到了方程或矫揉做作的理论名称」的测试。


类似地,评审人员也会在读到一篇关于表现良好的新方法的论文时,因为论文中没有解释为何该方法性能良好而拒绝该论文。


而如果你真的添加了解释,那么不管解释多么苍白,评审人员通常会接受。


评审者往往通过论文的实验部分来理解一个系统的运行方式,并对论文提出抱怨:没有新算法。这个问题可以通过在论文中提出一个实际上完全无关的新方法来解决。


评审者似乎讨厌「科学」论文,但是如果添加一些新的工程方法,则很容易「蒙混过关」。


(后者和其他情况相比不那么常见。我见过一些科学论文得到了很高的评审分数,但却常常被一些会议拒绝。)


没有同行评审有可能带来其他不好的趋势,但是我看到评审者基本上一直是要求作者添加数学原理、虚假解释和虚假的新颖性。


其实,Ian Goodfellow 并非在批评同行评审机制本身,而是认为该机制在实际应用中没有做好,「我认为同行评审理论上是个好主意,但在实践中正确地执行非常重要。」


此外,也有其他学科的学者表示,不只是 AI/ML 社区有 Ian Goodfellow 所说的问题,生物科学等其他领域也这样。但是,单单的批评并不能解决问题,整个社区需要的是解决方案。


最后小编想问,Ian Goodfellow 的 NIPS 2018 论文也被评审批得一无是处吗?


参考链接:https://threadreaderapp.com/thread/1023606428966080513.html

高质量延伸阅读

☞ OpenPV平台发布在线的ParallelEye视觉任务挑战赛

【学界】第1届“智能车辆中的平行视觉”研讨会成功举行

【学界】生成式对抗网络:从生成数据到创造智能

【学界】OpenPV:中科院研究人员建立开源的平行视觉研究平台

【学界】基于平行视觉的特定场景下行人检测

【学界】ParallelEye:面向交通视觉研究构建的大规模虚拟图像集

【CFP】Virtual Images for Visual Artificial Intelligence

【最详尽的GAN介绍】王飞跃等:生成式对抗网络 GAN 的研究进展与展望

【智能自动化学科前沿讲习班第1期】王飞跃教授:生成式对抗网络GAN的研究进展与展望

【智能自动化学科前沿讲习班第1期】王坤峰副研究员:GAN与平行视觉

【重磅】平行将成为一种常态:从SimGAN获得CVPR 2017最佳论文奖说起

【平行讲坛】平行图像:图像生成的一个新型理论框架

【学界】基于生成对抗网络的低秩图像生成方法

【学界】Ian Goodfellow等人提出对抗重编程,让神经网络执行其他任务

【学界】六种GAN评估指标的综合评估实验,迈向定量评估GAN的重要一步

【资源】T2T:利用StackGAN和ProGAN从文本生成人脸

【学界】 CVPR 2018最佳论文作者亲笔解读:研究视觉任务关联性的Taskonomy

【业界】英特尔OpenVINO™工具包为创新智能视觉提供更多可能

登录查看更多
0

相关内容

专知会员服务
147+阅读 · 2020年6月15日
专知会员服务
20+阅读 · 2020年3月29日
2020图机器学习GNN的四大研究趋势,21篇论文下载
专知会员服务
136+阅读 · 2020年2月10日
49篇ICLR2020高分「图机器学习GML」接受论文及代码
专知会员服务
62+阅读 · 2020年1月18日
AAAI2020接受论文列表,1591篇论文目录全集
专知会员服务
99+阅读 · 2020年1月12日
论文h-index过低,ACL2020主席遭匿名攻击
新智元
4+阅读 · 2019年7月12日
KDD 2019放榜,接收率低至14%,你的论文中了吗?
机器之心
7+阅读 · 2019年4月30日
2018 年最棒的三篇 GAN 论文
AI科技评论
4+阅读 · 2019年1月14日
Ian Goodfellow:你的GAN水平我来打分
机器之心
4+阅读 · 2018年8月17日
ICLR 2018十佳论文
论智
5+阅读 · 2017年12月4日
GANs之父Ian Goodfellow力荐:GANs的谱归一化
论智
8+阅读 · 2017年11月25日
Arxiv
7+阅读 · 2018年11月6日
Text classification using capsules
Arxiv
5+阅读 · 2018年8月12日
VIP会员
相关资讯
论文h-index过低,ACL2020主席遭匿名攻击
新智元
4+阅读 · 2019年7月12日
KDD 2019放榜,接收率低至14%,你的论文中了吗?
机器之心
7+阅读 · 2019年4月30日
2018 年最棒的三篇 GAN 论文
AI科技评论
4+阅读 · 2019年1月14日
Ian Goodfellow:你的GAN水平我来打分
机器之心
4+阅读 · 2018年8月17日
ICLR 2018十佳论文
论智
5+阅读 · 2017年12月4日
GANs之父Ian Goodfellow力荐:GANs的谱归一化
论智
8+阅读 · 2017年11月25日
Top
微信扫码咨询专知VIP会员