【NAACL-HLT2019】自然语言处理的迁移学习--来自DeepMind、AllenNLP等,附238页Slides&代码

导读

NAACL-HLT2019会议上,四位来自自然语言处理领域的科学家分享了《Transfer Learing in Natural Language Processing》教程。这份教程的目标是提供NLP中迁移学习方法概述,提供实用的、实际操作的建议,在教程结束时,每个人都有能力将最近的进展应用于文本分类任务 。


作者 | Sebastian Ruder, Matthew Peters, Swabha Swayamdipta, Thomas Wolf 

编辑 | Xiaowen



教程Slides快捷下载:

请关注专知公众号(点击上方蓝色专知关注

  • 后台回复“NAACL2019TL” 就可以获取《自然语言处理的迁移学习》完整版教程Slides的下载链接~

代码: https://github.com/huggingface/naacl_transfer_learning_tutorial

Notebook:https://colab.research.google.com/drive/1iDHCYIrWswIKp-n-pOg69xLoZO09MEgf#scrollTo=HQCEWgDvYtE4


1

 我们为什么要在自然语言处理中使用迁移学习?

  • 许多NLP任务共享关于语言的共同知识(例如语言表示、结构相似性);

  • 许多任务可以互相推断,例如语法和语义;

  • 带注释的数据很少,要利用尽可能多的监督信息;

  • 据悉,迁移学习已经为许多有监督的nlp任务(例如分类、信息提取、QA)取得了state-of-the-art结果。 

2

 这份教程关于什么?

  • 目标:提供NLP中迁移学习方法概述,重点是提供截至今日(2019年中期)最成功的方法;

  • 提供实用的、实际操作的建议,在教程结束时,每个人都有能力将最近的进展应用于文本分类任务 。



以下为各小节标题,完整slides可下载查看。



完整238页教程Slides快捷下载:

请关注专知公众号(点击上方蓝色专知关注

  • 后台回复“NAACL2019TL” 就可以获取《自然语言处理的迁移学习》完整版教程Slides的下载链接~


-END-

专 · 知

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎登录www.zhuanzhi.ai,注册登录专知,获取更多AI知识资料!

欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询

请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询技术商务合作~

专知《深度学习:算法到实战》课程全部完成!550+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!

点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程

展开全文
Top
微信扫码咨询专知VIP会员