【NAACL-HLT2019】自然语言处理的迁移学习--来自DeepMind、AllenNLP等,附238页Slides&代码

2019 年 6 月 3 日 专知
导读

NAACL-HLT2019会议上,四位来自自然语言处理领域的科学家分享了《Transfer Learing in Natural Language Processing》教程。这份教程的目标是提供NLP中迁移学习方法概述,提供实用的、实际操作的建议,在教程结束时,每个人都有能力将最近的进展应用于文本分类任务 。


作者 | Sebastian Ruder, Matthew Peters, Swabha Swayamdipta, Thomas Wolf 

编辑 | Xiaowen



教程Slides快捷下载:

请关注专知公众号(点击上方蓝色专知关注

  • 后台回复“NAACL2019TL” 就可以获取《自然语言处理的迁移学习》完整版教程Slides的下载链接~

代码: https://github.com/huggingface/naacl_transfer_learning_tutorial

Notebook:https://colab.research.google.com/drive/1iDHCYIrWswIKp-n-pOg69xLoZO09MEgf#scrollTo=HQCEWgDvYtE4


1

 我们为什么要在自然语言处理中使用迁移学习?

  • 许多NLP任务共享关于语言的共同知识(例如语言表示、结构相似性);

  • 许多任务可以互相推断,例如语法和语义;

  • 带注释的数据很少,要利用尽可能多的监督信息;

  • 据悉,迁移学习已经为许多有监督的nlp任务(例如分类、信息提取、QA)取得了state-of-the-art结果。 

2

 这份教程关于什么?

  • 目标:提供NLP中迁移学习方法概述,重点是提供截至今日(2019年中期)最成功的方法;

  • 提供实用的、实际操作的建议,在教程结束时,每个人都有能力将最近的进展应用于文本分类任务 。



以下为各小节标题,完整slides可下载查看。



完整238页教程Slides快捷下载:

请关注专知公众号(点击上方蓝色专知关注

  • 后台回复“NAACL2019TL” 就可以获取《自然语言处理的迁移学习》完整版教程Slides的下载链接~


-END-

专 · 知

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎登录www.zhuanzhi.ai,注册登录专知,获取更多AI知识资料!

欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程视频资料和与专家交流咨询

请加专知小助手微信(扫一扫如下二维码添加),加入专知人工智能主题群,咨询技术商务合作~

专知《深度学习:算法到实战》课程全部完成!550+位同学在学习,现在报名,限时优惠!网易云课堂人工智能畅销榜首位!

点击“阅读原文”,了解报名专知《深度学习:算法到实战》课程

登录查看更多
5

相关内容

The Annual Conference of the North American Chapter of the Association for Computational Linguistics 2019旨在聚集对自然语言处理技术及其在新问题领域应用的设计和研究感兴趣的研究人员。基于这一目标,NAACL-HLT 2019邀请提交关于计算语言学各方面创造性、实质性和未发表研究的长论文和短论文。官网链接:https://naacl2019.org/
知识图谱推理,50页ppt,Salesforce首席科学家Richard Socher
专知会员服务
105+阅读 · 2020年6月10日
深度学习自然语言处理概述,216页ppt,Jindřich Helcl
专知会员服务
208+阅读 · 2020年4月26日
【Facebook AI】低资源机器翻译,74页ppt
专知会员服务
29+阅读 · 2020年4月8日
【教程】自然语言处理中的迁移学习原理,41 页PPT
专知会员服务
93+阅读 · 2020年2月8日
【EMNLP2019教程】端到端学习对话人工智能,附237页PPT下载
专知会员服务
67+阅读 · 2019年11月25日
自然语言处理NLP之旅(NLP文章/代码集锦)
深度学习了解一下(附53页Slides)
专知
48+阅读 · 2019年5月20日
NLP不同任务Tensorflow深度学习模型大全
专知
10+阅读 · 2019年3月19日
A Comprehensive Survey on Transfer Learning
Arxiv
117+阅读 · 2019年11月7日
Arxiv
4+阅读 · 2018年9月6日
Arxiv
21+阅读 · 2018年8月30日
VIP会员
Top
微信扫码咨询专知VIP会员