自2017年推出以来,Transformer已经彻底改变了自然语言处理(NLP)。现在,transformer在深度学习中广泛应用,无论是计算机视觉(CV)、强化学习(RL)、生成式对抗网络(GANs)、语音甚至生物学。除此之外,transformer使创建像GPT-3这样强大的语言模型成为可能,并在DeepMind最近处理蛋白质折叠的AlphaFold2中发挥了作用。 在本次研讨会中,我们将详细介绍transformer的工作原理,并深入探讨不同类型的transformer,以及它们在不同领域的应用。我们通过讲师讲座、客座讲座和课堂讨论的方式来做到这一点。我们将邀请不同领域的transformer研究前沿人士进行客座演讲。 本课程的大部分内容将由研究人员的演讲组成,讨论transformer的最新突破,并解释他们如何将其应用于自己的研究领域。本课程的目标是汇集ML、NLP、CV、生物学和其他社区关于transformer的想法,了解它们的广泛含义,并开展交叉合作研究。 https://web.stanford.edu/class/cs25/index.html 讲者:
目录内容: