自2017年推出以来,Transformer已经彻底改变了自然语言处理(NLP)。现在,transformer在深度学习中广泛应用,无论是计算机视觉(CV)、强化学习(RL)、生成式对抗网络(GANs)、语音甚至生物学。除此之外,transformer使创建像GPT-3这样强大的语言模型成为可能,并在DeepMind最近处理蛋白质折叠的AlphaFold2中发挥了作用。 在本次研讨会中,我们将详细介绍transformer的工作原理,并深入探讨不同类型的transformer,以及它们在不同领域的应用。我们通过讲师讲座、客座讲座和课堂讨论的方式来做到这一点。我们将邀请不同领域的transformer研究前沿人士进行客座演讲。 本课程的大部分内容将由研究人员的演讲组成,讨论transformer的最新突破,并解释他们如何将其应用于自己的研究领域。本课程的目标是汇集ML、NLP、CV、生物学和其他社区关于transformer的想法,了解它们的广泛含义,并开展交叉合作研究。 https://web.stanford.edu/class/cs25/index.html 讲者:

目录内容:

成为VIP会员查看完整内容
74

相关内容

斯坦福大学(StanfordUniversity)位于加利福尼亚州,临近旧金山,占地35平方公里,是美国面积第二大的大学。它被公认为世界上最杰出的大学之一,相比美国东部的常春藤盟校,特别是哈佛大学、耶鲁大学,斯坦福大学虽然历史较短,但无论是学术水准还是其他方面都能与常春藤名校相抗衡。斯坦福大学企业管理研究所和法学院在美国是数一数二的,美国最高法院的9个大法官,有6个是从斯坦福大学的法学院毕业的。
【斯坦福课程】基础模型进展
专知会员服务
48+阅读 · 2023年1月15日
不可错过!CMU《深度学习导论》2020课程,附课件与视频
专知会员服务
78+阅读 · 2020年10月27日
【斯坦福新课】CS234:强化学习,附课程PPT下载
专知会员服务
112+阅读 · 2020年1月15日
强的离谱,Transformer杀疯了!
PaperWeekly
0+阅读 · 2022年8月23日
中文课程!台大李宏毅机器学习公开课2019版上线
全球人工智能
14+阅读 · 2019年3月18日
国家自然科学基金
4+阅读 · 2015年7月12日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
7+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年7月24日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2023年3月15日
Arxiv
69+阅读 · 2022年6月13日
Arxiv
20+阅读 · 2021年9月21日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
15+阅读 · 2020年2月5日
Adversarial Transfer Learning
Arxiv
12+阅读 · 2018年12月6日
Arxiv
21+阅读 · 2018年8月30日
VIP会员
相关基金
国家自然科学基金
4+阅读 · 2015年7月12日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
7+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年7月24日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
相关论文
Arxiv
0+阅读 · 2023年3月15日
Arxiv
69+阅读 · 2022年6月13日
Arxiv
20+阅读 · 2021年9月21日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
15+阅读 · 2020年2月5日
Adversarial Transfer Learning
Arxiv
12+阅读 · 2018年12月6日
Arxiv
21+阅读 · 2018年8月30日
微信扫码咨询专知VIP会员