这套1600赞的NLP课程已开放,面向实战,视频代码都有丨资源

2019 年 7 月 9 日 量子位
铜灵 发自 凹非寺
量子位 出品 | 公众号 QbitAI

纸上得来终觉浅,决胜NLP要躬行。

一套面向实战、号称“代码优先”的NLP课程来了,名字为A Code-First Introduction to Natural Language Processing,fast.ai出品,全程免费学习。

不到半天点赞超过1600,转发近500。

这套课程内容包括主题建模、情绪分类,语言建模和翻译等,是旧金山大学今年春天的最新硕士课程,此前已经有300多名学生上过此课并毕业。

里面融合了此前经典NLP课程的基础内容,比如正则表达、SVD、朴素贝叶斯,还加入了最近兴起的神经网络中新方法,比如RNN、seq2seq、注意力机制和Transformer架构。

还加上了对道德问题、偏见问题和虚假信息可能带来的影响。

既然偏向实战,那代码必须全。这套课程用的是PyTorch和fast.a库所有的Python代码都在Jupyter Notebook中,还有全套视频与你为伴。

服用指南

直接看课程里面有什么干货。

1、概览

什么是NLP

2、传统NLP方法

占整个课程三分之一的篇幅,介绍了使用SVD进行主题建模,通过朴素贝叶斯和逻辑回归、以及正则表达式进行情感分类。

3、深度学习:NLP中的迁移学习

NLP中的迁移学习涉及到在大型语料库上训练语言模型,并且对不同的小语料库进行微调等。

这项工作已经被BERT、GPT-2和XLNet等模型采用,在这一节中,主要分享了构建英语以外其他语言模型的技巧,包括用ULMFit建立越南语土耳其语语言模型的技巧。

4、深度学习:Seq2Seq翻译和Transformer架构

这一节研究了简单RNN如何工作的细节,还介绍了用于翻译的Seq2Seq模型。

从建立翻译模型,到teacher forcing方法、注意力机制以及GRU等方法提高准确率。

最后介绍了Transformer架构的实现。

5、NLP的伦理问题

伦理问题及潜在的风险是作者重点推荐的一节。

在OpenAI的GPT-2语言模型问世后,翻译、阅读理解、回答问题等任务都能做到以假乱真,让不少群众开始慌张。

这一节给出了解决方法和建议步骤,如验证系统和数字签名等。

每节课都有视频,每个视频长度在20-90分钟之间。

侧重实践

这门课背后的fast.ai,在深度学习界算是独树一帜。

fast.ai由Kaggle大神Jeremy Howard、后悔读了博的数学博士Rachel Thomas、原本在巴黎教了7年书的Sylvain Gugger联合创办。

他们是真正的实践派,课程以“教实用的东西、高效解决问题”为核心追求,非常重视工程实现细节。

在去年发布更基础的“程序员的机器学习入门”课时,他们赞扬了吴恩达老师的入门课worderful之后就接了个“但是”:但是,它现在有显得太老气了,特别是作业还得拿Matlab写。

fast.ai的课程就非常紧跟程序员的实践潮流,用Python编程,用交互式的Jupyter Notebooks学习。
同时,他们也非常鼓励学生去参加Kaggle竞赛,检验自己的能力。

这套NLP新课,也是同样的思路了。

传送门

课程首页:
https://www.fast.ai/2019/07/08/fastai-nlp/

GitHub上有课程所需的所有代码:
https://github.com/fastai/course-nlp

油管上所有课的视频(需要科学前往):
https://www.youtube.com/playlist?list=PLtmWHNX-gukKocXQOkQjuVxglSDYWsSh9

Fast.ai库:
https://docs.fast.ai/


AI社群 | 与优秀的人交流

小程序 | 全类别AI学习教程

量子位 QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

喜欢就点「在看」吧 ! 

登录查看更多
15

相关内容

NLP:自然语言处理
【DeepMind推荐】居家学习的人工智能干货资源大全集
专知会员服务
107+阅读 · 2020年6月27日
【干货书】机器学习Python实战教程,366页pdf
专知会员服务
336+阅读 · 2020年3月17日
Yann Lecun 纽约大学《深度学习(PyTorch)》课程(2020)PPT
专知会员服务
178+阅读 · 2020年3月16日
【课程推荐】普林斯顿陈丹琦COS 484: 自然语言处理课程
专知会员服务
82+阅读 · 2019年12月11日
【机器学习课程】Google机器学习速成课程
专知会员服务
163+阅读 · 2019年12月2日
(免费精品课程分享)-PyTorch深度学习实战
深度学习与NLP
18+阅读 · 2018年10月28日
fast.ai发布针对编程者的深度学习教程
论智
4+阅读 · 2018年5月8日
计算机视觉与深度学习实战
炼数成金订阅号
8+阅读 · 2018年2月9日
Talking-Heads Attention
Arxiv
15+阅读 · 2020年3月5日
Arxiv
3+阅读 · 2019年9月5日
How to Fine-Tune BERT for Text Classification?
Arxiv
13+阅读 · 2019年5月14日
Arxiv
12+阅读 · 2019年4月9日
Arxiv
6+阅读 · 2019年4月4日
Arxiv
12+阅读 · 2019年2月28日
Arxiv
22+阅读 · 2018年8月30日
VIP会员
相关论文
Talking-Heads Attention
Arxiv
15+阅读 · 2020年3月5日
Arxiv
3+阅读 · 2019年9月5日
How to Fine-Tune BERT for Text Classification?
Arxiv
13+阅读 · 2019年5月14日
Arxiv
12+阅读 · 2019年4月9日
Arxiv
6+阅读 · 2019年4月4日
Arxiv
12+阅读 · 2019年2月28日
Arxiv
22+阅读 · 2018年8月30日
Top
微信扫码咨询专知VIP会员