今年NeurIPS 2021首次采用OpenReview进行评审,要求接收的论文公开他们的评审结果和讨论内容,但Reddit网友发现一些作者删除了他们和评审讨论的内容,引起网友们的无限遐想,甚至有人认为是商业机密,不便公开。Reddit网友表示,我看不懂,但我大受震撼。 >>加入极市CV技术交流群,走在计算机视觉的最前沿
今年的盛会NeurIPS 2021 已经放榜,不知道你中了几篇?
与以往不同的是,今年NeurIPS 采用了OpenReview 审稿,也就是说审稿过程都是透明的,所有的审稿意见、评论和最终录取结果都是公开的。
对这个决定,网友们表示各有利弊,甚至有的作者怕这种方式引来公开处刑,在考虑更换论文进行投稿。
最近Reddit 上一个网友也发现一个问题,就是有的作者在NeurIPS 论文被接受以后,把所有的公开讨论内容给删掉了。
还拿了一篇论文举了一个例子,并表示不是针对谁,只是在座的各位。。这是他第一份发现的,并且在过去的几个月里这种情况的发生的频率很高。
对此他表示非常难以理解,这个操作的背后到底有什么意义?
因为ICLR 和 NeurIPS 都采用了OpenReview,所以这位网友推测ICLR 的作者删除可以认为是论文被拒掉了,所以删除掉相关评论,这篇论文在未来某天发表的时候相关文件没有那么多。
但为什么NeurIPS 的论文都已经被接受了,还删除掉相关讨论呢?
并且OpenReview 有一个权限设置,作者可以可以选择让评审之外的所有人都看不到他们的原始回复。
但同样的问题也适用于这种操作:为什么作者需要隐藏他们的回复,特别是在评论是公开的情况下?
对此,网友也是众说纷纭,有人表示,我还没有这样做,但可以理解有人会这么做的一个原因。评论者有时要求进行无用或误导性的比较和实验。
如果这些内容成为人们在OpenReview上看到的第一件事可能对论文的理解上有误导,最好是在文章中有适当的上下文和解释。
对于「无用或误导性的比较和实验」,有人表示,不能同意更多。这些评审有时候好像就是要发帖挑衅一样,他们想表现得很聪明,总想问或者挑点什么错误出来,所以他们只是随便浏览一下论文,并且随意发表评论,这对所有人来说都毫无帮助。
还有网友表示,一场富有成效的讨论需要所有参与者在思想上达成一致,因此,删除这些讨论的一个可能原因是,你不能保证普通的观众在智力上能够理解讨论的内容。不过,这只是一个一般性的结论,答主不知道它是否适用于OpenReview讨论。
还有人认为是为了减少接触。如果曝光太多的话,全世界都能看到这些论文在胡说八道。此外,学术界充满了太多自私的人,他们不希望其他人从他们与评审的讨论中受益,即获取想法。
从工业的角度而非从学术的角度来看,这个操作是有意义的。如果研究人员计划将他们的研究成果商业化,那就需要给他们自己一些时间来领先于其他人。
当构建一个系统时,有很多组件和变量,你可以在论文中列出它们,但你不一定要解释你对它们所做的调整以获得结果。这样做以后,结果仍然可以得到验证,尽管这样做需要更长的时间来复现。
因此,如果一家企业看了你的论文,但因为这是一个公共领域,所以仍然有更多的时间将你的算法商业化,并将其推向生产。除此之外,想不出一篇被接受的论文的作者需要取消与评论员的讨论的理由。不过,他也同意对一篇被拒绝的论文进行讨论。
OpenReview 带来的「反腐败」作用是很明显的,例如有网友分享了看到一篇因为重复投稿被公开处刑的文章。
也有人表示OpenReview 这种方式会促进作者变得实诚,更好地改进论文。
除此之外,OpenReview 也会促使评审人员在措辞时更加慎重,不能无故以各种荒谬理由来拒稿。
在今年NeurIPS 2021公告中认为,OpenReview提供了高度可定制化的接口,并且可以很容易地适配会议规模的增长。OpenReivew系统提供了很多改进项,例如:可自行管理的用户配置、利益冲突(COI)声明以及改进的程序委员交互方式。
在默认的情况下,被拒绝的投稿不会被公开。但在 NeurIPS 2021 上,被拒论文的作者可以在通知截止日期后的两周内选择公开其匿名化的论文,并在 OpenReview 中公开发表评论。
「我们认为这是最好的折中方案,因为它还可以让初级研究人员避免因为有害的公共批评而遭受打击。」
参考资料:
https://www.reddit.com/r/MachineLearning/comments/pyrjca/d_why_do_authors_nuke_their_openreview/
公众号后台回复“CVPR21检测”获取CVPR2021目标检测论文下载~
备注:姓名-学校/公司-研究方向-城市(如:小极-北大-目标检测-深圳)
即可申请加入极市目标检测/图像分割/工业检测/人脸/医学影像/3D/SLAM/自动驾驶/超分辨率/姿态估计/ReID/GAN/图像增强/OCR/视频理解等技术交流群
每月大咖直播分享、真实项目需求对接、求职内推、算法竞赛、干货资讯汇总、与 10000+来自港科大、北大、清华、中科院、CMU、腾讯、百度等名校名企视觉开发者互动交流~
觉得有用麻烦给个在看啦~