拒绝抱大腿！如何成为一名独立研究者，并在ICLR上发表论文- 专知

拒绝抱大腿！如何成为一名独立研究者，并在ICLR上发表论文

【导读】本文是Andreas Madsen在medium上撰写的一篇博文，记录了自己如何在没有外部资金支持的情况下，从一名独立研究者到第一篇ICLR论文发表的心路历程。

原文链接：

https://medium.com/@andreas_madsen/becoming-an-independent-researcher-and-getting-published-in-iclr-with-spotlight-c93ef0b39b8b

2019年4月，我决定成为一名独立的研究者，想要在一个重要会议上发表论文。在2019年12月，也就是7-8个月内在没有资金支持的情况下，我实现了我之前的目标。我的论文被ICLR会议接收，同时更加令我激动的是：我站在了聚光灯下！

我在推特上发表了这篇文章后，它就像我这样的研究人员所希望的那样迅速传播开来。到目前为止，我已经收到了近100条来自其他人的信息，询问我作为独立的研究者如何发表论文。

在本文中，我会给出对于上面问题的建议。然而，更重要的是，我也想谈谈为什么我会选择成为一名独立的研究者。要知道，长达七个月没有经济收入可不是开玩笑的，值得认真考虑!

为什么我要成为一个独立的研究者

2018年3月，我作为论文唯一的作者在distill.pub上发表了论文“Visualizing memorization in RNNs,” 阐释了两个关于如何将基于交互式显著性的可视化方法用于NLP任务的模型，这两个模型有几乎一样的准确度，但是表现却区别很大。

我认为自己这种情况，足以争取一个需要博士水平的软件工程师研究职位，或者一个实习项目，或者一个ML工程师的职位一样。于是我写信给各个教授，申请了谷歌、微软、乐天、ElementAI、英伟达、Hypefactors、英特尔、京东、亚马逊、三星、Shift Technology、Corti等等。遗憾的是我一次面试机会都没有得到！

对于谷歌的软件工程师职位，谷歌的一位高级研究员联系了我，他鼓励我向他所在的部门提出申请，并正式推荐了我。为了安全起见，我还向谷歌的一名高级软件工程师要了推荐信。可惜还是没有面试机会，没有HR的联系，什么都没有!

如何自我资助？

我是如何获得自己的idea的？我是如何养活自己的？这是到目前我被问的最多的问题。然而，尽管它们确实值得讨论，但我认为它们没有那么重要。有很多方法可以获得一个想法，如果你对别人没有任何承诺，有很多方法可以减少你的开支。从2017年9月到2018年10月，我一直是一名自由职业者。当我的朋友埃米尔·贝（Emil Bay）向我推荐了一个名为clinic.js的新项目后，我开始着手这个项目。我做了很多关于这个项目的可视化工作，在node.js内部工作了6年，并且刚刚获得了机器学习硕士学位，这是任何人都能想象到的最适合我的工作项目，它需要详细了解Node的内部机制，js，统计背景，web可视化等技能。结果就是我的工资相当高，如果我把生活费用控制在很低的水平，就足够维持我3-4年了。

如何获得idea

就像我上面所说的一样，有很多方法可以得到一个idea，所以不要把我的话太当真，尽情的发挥你自己的创造力。2019年2月，我参加了母校人工智能学生社团的开幕式活动。我希望能和我以前的导师谈谈博士学位的事。不幸的是，他没有任何东西可以提供给我。然而，我幸运的遇到了亚历山大·R·约翰森，他是一位助理研究员，他告诉我他正在找人合作。后来在2019年3月，我写信给他，他解释说，有几个学生试图复制DeepMind的论文“NALUI”，但没有成功，并问我是否想研究它，也许它可以成为一篇NeurIPS论文。我的硕士论文是关于批判别人的论文然后改进他们的方法，这些论文不是被夸大就是有误导别人的嫌疑。这些问题主要集中在优化上，这是一个我觉得比较舒服的领域。所以我觉得我可以做点什么。

这就是我如何获得idea的方式。这不是一个超级鼓舞人心的研究思路，它也伴随着一些重大的挑战，但确实是一个可行的研究策略。

生活孤独，但没有失去理智和希望

作为一个独立的研究者，你不能寄希望于任何人的鼓励。我知道有很多博士生导师也不鼓励他们的博士生，但希望他们能从有类似困难的博士生那里得到鼓励。但是作为一个独立的研究者，这几乎是不可能的，这也是我不建议成为独立研究者的首要原因。但是每个人都或多或少希望得到一些鼓励，不要以为我在没有任何鼓励的情况下连续工作了7个月。我总是担心一些问题，比如：找不到解决方案，得不到公正的同行评审，得不到有用的结果，发现重大缺陷，即使我发表了文章，也可能没有效果，因为这是一个很小众的课题。

写出优秀的论文

以我为例，我的第一篇论文是distill.pub期刊接受的。回想起来，那真是太幸运了。distill.pub期刊更关心写作，解释和教育，而不是通过那些可能本身就不够靠谱的同行进行评审。对我来说，写论文是为了解释和教育，这比取悦匿名的同行评审人要容易得多，所以这是一个好的开始。然而，我的第一次投稿被编辑拒绝了！因为他们不知道我的创新点是什么，是对嵌套的LSTM进行批评，还是对于NLP任务的交互式可视化。

进行重大修改之后，我再次向Distill期刊提交了我的论文。最后，我想说的是，我花了很长时间和Alexander一起打磨论文，特别是在完成摘要和介绍时，他的帮助是非常宝贵的。

我向NeurIPS2019投稿，不幸的是我的论文最终没有被接收，对此我真的感到很沮丧。随后我又向ICLR投稿，但这次是不一样的。我对论文做了一些改进，添加了更多的证据和经验来支持我们的想法。

我希望我能告诉你的是：我们对于论文的不断改进终于取得了显著的效果。不过，我们能够遇到这样一位优秀的审稿人实在是太幸运了。此外，OpenReview上鼓励人们用于探讨，敢于批判，以及更少的辱骂性评论，因为这些评论并不是秘密。

努力是否值得？

最后，我们的论文发表了，我希望这能有助于我获得一个从事研究的职位，但说实话，我还不知道。因为我刚刚看到一封电子邮件，上面说你需要“两份顶级的出版物，最好是和著名的合著者一起，才能进入顶级的博士项目”，这是我作为一名独立研究者永远无法实现的目标。也许我心中的希望就是那所大学吧。