【NAACL-HLT2019】自然语言处理的迁移学习--来自DeepMind、AllenNLP等，附238页Slides&代码

导读

NAACL-HLT2019会议上，四位来自自然语言处理领域的科学家分享了《Transfer Learing in Natural Language Processing》教程。这份教程的目标是提供NLP中迁移学习方法概述，提供实用的、实际操作的建议，在教程结束时，每个人都有能力将最近的进展应用于文本分类任务 。

作者 | Sebastian Ruder, Matthew Peters, Swabha Swayamdipta, Thomas Wolf 

编辑 | Xiaowen

教程Slides快捷下载：

请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“NAACL2019TL” 就可以获取《自然语言处理的迁移学习》完整版教程Slides的下载链接~

代码： https://github.com/huggingface/naacl_transfer_learning_tutorial

Notebook：https://colab.research.google.com/drive/1iDHCYIrWswIKp-n-pOg69xLoZO09MEgf#scrollTo=HQCEWgDvYtE4

1

 我们为什么要在自然语言处理中使用迁移学习？

• 许多NLP任务共享关于语言的共同知识(例如语言表示、结构相似性)；

• 许多任务可以互相推断，例如语法和语义；

• 带注释的数据很少，要利用尽可能多的监督信息；

• 据悉，迁移学习已经为许多有监督的nlp任务(例如分类、信息提取、QA)取得了state-of-the-art结果。 

2

 这份教程关于什么？

• 目标：提供NLP中迁移学习方法概述，重点是提供截至今日（2019年中期）最成功的方法；

• 提供实用的、实际操作的建议，在教程结束时，每个人都有能力将最近的进展应用于文本分类任务 。
  

以下为各小节标题，完整slides可下载查看。

完整238页教程Slides快捷下载：

请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“NAACL2019TL” 就可以获取《自然语言处理的迁移学习》完整版教程Slides的下载链接~

-END-

专 · 知

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎登录www.zhuanzhi.ai，注册登录专知，获取更多AI知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程视频资料和与专家交流咨询！

请加专知小助手微信（扫一扫如下二维码添加），加入专知人工智能主题群，咨询技术商务合作~

专知《深度学习:算法到实战》课程全部完成！550+位同学在学习，现在报名，限时优惠！网易云课堂人工智能畅销榜首位！

点击“阅读原文”，了解报名专知《深度学习:算法到实战》课程