牛津大学发布针对自然语言处理的深度学习课程

翻译｜张萌

编辑｜Natalie

深度学习方法在一系列自然语言处理（NLP）问题上成绩斐然。这一令人振奋的成果源于端到端训练的单一模型代替了之前一整套特别定制的统计学模型。

英国牛津大学开授了一门课程：针对自然语言处理的深度学习，大部分内容可从网上免费获得。本文将带你了解牛津发布的针对自然语言处理的深度学习课程。

阅读本文后你将了解：

• 课程所需及预备知识。

• 课程明细及如何获取幻灯片和视频。

• 课程项目明细及如何获取资料。

我们开始吧。

摄影： Martijn van Sabben，保留部分权利。

本文分四部分，分别为：

1. 课程概述

2. 预备知识

3. 课程明细

4. 实践课题

课程概述

本课程命名为“针对自然语言处理的深度学习”，由牛津大学（英国）开设。最近一次授课是在 2017 年初。

本课程的亮点在于其由 Deep Mind 的员工组织和授课。尤其值得一提的是，主讲人由 Phil Blunsom 担任。

课程的重点放在自然语言处理的统计学方法上，尤其关注于处理 NLP 问题取得不俗成绩的神经网络。

引自课程介绍：

“这是一门应用型课程，重点讲授使用递归神经网络分析和生成对话及文本的最新成果。我们会介绍相关机器学习模型的数学定义并推导相关优化算法。”

预备知识

本课程为本科生及研究生设计。

本课程需要以下背景知识：

• 概率论

• 线性代数

• 连续数学

• 机器学习基础

如果你是相关行业的从业者，对 NLP 上的深度学习应用感兴趣，你可能会有不同的学习目标，想从学习材料中获取不同的东西。

比如，你可能想更多地了解方法和应用，而不是基础理论。

课程明细

本课程分为十三讲，第一讲和第二讲又各分为两部分。

完整的课程明细如下所示。

课程的 GitHub 目录（https://github.com/oxford-cs-deepnlp-2017/lectures）中包含幻灯片，flash 视频和每一讲的阅读材料的链接。

推荐使用此 unofficial YouTube playlist 来观看视频。

以下是第一讲中课程概述的幻灯片。

牛津大学课程明细：针对自然语言处理的深度学习

这里有许多客座讲师涵盖了不同主题，他们大都来自 Deep Mind。

第一讲 a —— 简介（Phil Blunsom）

第一讲 b —— 深度神经网络（Wang Ling）

第二讲 a —— 词级语义分析（Ed Grefenstette）

第二讲 b —— 实践概述（Chris Dyer）

第三讲 —— 语言模型和递归神经网络（RNN）第一部分（Phil Blunsom）

第四讲 —— 语言模型和递归神经网络（RNN）第二部分（Phil Blunsom）

第五讲 —— 文本分类（Karl Moritz Hermann）

第六讲 —— 基于 Nvidia GPU 的深度自然语言处理（NLP）（Jeremy Appleyard）

第七讲 —— 条件语言模型（Chris Dyer）

第八讲 —— 注意力模型语言生成（Chris Dyer）

第九讲 —— 语音识别（ASR）（Andrew Senior）

第十讲 —— 文字转语音（TTS）（Andrew Senior）

第十一讲 —— 问答系统（Karl Moritz Hermann）

第十二讲 —— 记忆机制（Ed Grefenstette）

第十三讲 —— 神经网络中的语言学知识

实践课题

本课程包含四个实践课题，你可能想将学到的知识应用其中。

课题如下所示，每个课题都有自己的 GitHub 项目，包含了内容介绍和相关的起步资料：

• 实践 1：映射词到向量（https://github.com/oxford-cs-deepnlp-2017/practical-1）

• 实践 2：文本分类（https://github.com/oxford-cs-deepnlp-2017/practical-2）

• 实践 3：递归神经网络在文本分类和语言模型上的应用（https://github.com/oxford-cs-deepnlp-2017/practical-3）

• 实践 4：开放性实践（https://github.com/oxford-cs-deepnlp-2017/practical-open）

延伸阅读

此部分提供了同主题的更多材料，感兴趣者可深入阅读。

• 针对自然语言处理的深度学习：2016-2017（https://www.cs.ox.ac.uk/teaching/courses/2016-2017/dl/）

• GitHub 上的课程材料（PDF）（https://github.com/oxford-cs-deepnlp-2017/lectures）

• Youtube 上的课程视频（https://www.youtube.com/playlist?list=PL613dYIGMXoZBtZhbyiBqb0QtgK6oJbpm）

• Hacker News 上的课程讨论（https://news.ycombinator.com/item?id=13588070）

总结

通过本文，你将对牛津大学课程：针对自然语言处理的深度学习有更多的了解。特别是学到了以下内容：

• 课程所需及预备知识。

• 课程明细及如何获取幻灯片和视频。

• 课程项目明细及如何获取资料。

关于作者

Jason Brownlee 博士是丈夫，骄傲的父亲，学术研究者，作者，职业开发者和深度学习从业者。他致力于帮助开发者入门和精通深度学习的应用。

查看英文原文：

https://machinelearningmastery.com/oxford-course-deep-learning-natural-language-processing/

---