**OpenAI科学家Jason Wei。**Jason Wei毕业于达特茅斯大学,之前,他在Google Brain担任高级研究科学家,在大模型研发领域拥有丰富的经验和杰出成就,在谷歌工作期间曾主导推广了大语言模型中包括思维链提示、指令微调和模型涌现在内一系列关键思想的诞生。 过去的几年里,我与一些极为才华横溢的研究者合作并进行了观察,我注意到了以下趋势:
- 当开始一个项目时,普通的研究者往往会迅速跳到建模提议、架构设计、新思路等。而杰出的研究者通常首先会手动查看数据和与模型互动,深入了解问题,然后再提出(通常是简单的)方法。
- 普通研究者可能经常编写乱七八糟、不可重用且需要多个独立步骤的代码。而杰出的研究者往往也是优秀的软件工程师——他们的代码可以轻松地扩展用于未来的实验,他们编写详尽的测试,并且建设基础设施以迅速进行多次实验并用最少的点击次数可视化结果。
- 虽然普通研究者可能主要是独自工作或与一两个人合作,但杰出的研究者知道研究是一种社交活动。他们与经验各异的人合作,分享研究成果,并有说服力地传达他们的愿景。
- 普通研究者可能会陷入“兔子洞”——如果他们的实验结果只是普通,他们会花3个多星期撰写并提交到会议。而杰出的研究者在知道某种方法不会取得重大突破时,会迅速转向其他研究。
- 如果普通研究者取得了一些成功,他们可能会试图继续做他们觉得舒适的事情,即使这样的方法变得过时。而杰出的研究者能迅速调整,并不断适应新的进展和范式。
- 普通研究者经常实施针对特定任务的解决方案,这些方案针对单一任务进行了大量优化。杰出的研究者也可能致力于特定任务,但他们会试图思考可以应用于许多其他任务的通用方法。
- 普通研究者谈论并优化论文或会议的接受率。我从未遇到一个真正关心这些事情的杰出研究者。
(顺便说一句,被称为普通研究者不应该被视为侮辱。即使进行研究都需要付出大量努力:))
杰出研究者
**选择一个研究主题 **
设计与执行实验
撰写论文
最大化影响力