干货 | NLP 书单推荐!

2017 年 12 月 21 日 翻译技术沙龙 韦福如

作者:韦福如

来源:微软研究院 AI 头条(ID: MSRAsia)

自然语言处理(NLP)作为人工智能研究的核心领域之一,长久以来都受到广泛关注。微软全球执行副总裁沈向洋博士曾表示“懂语言者得天下,人工智能对人类影响最为深刻的就是自然语言方面。”现在很多研究人员都在进入自然语言领域,希望可以解决“让机器理解人类语言”这一难题。


为了帮助大家更好地学习NLP,我们邀请微软亚洲研究院自然语言计算组资深研究员韦福如为大家推荐了一些关于自然语言学习方面经典的书籍和课程,分为入门级和进阶级两大类。


好,同学们现在都准备好了吗?请系好安全带,我们这辆开往“NLP大佬界”方向的车就要发车了!




一、
入门篇



主要目标:熟悉和了解自然语言处理领域的基本术语、任务定义和基本算法,比如输入输出、评价标准和应用场景。为以后的进一步学习、科研、产品开发以及学术和技术交流奠定基础。


1、Speech and Language Processing, 2nd Edition

作者:Daniel Jurafsky and James H. Martin

中文译名:语音与语言处理

适合人群:初级到中级学者

推荐指数:★★★★★



主要内容:本书内容涵盖了自然语言处理的方方面面,从底层的词法分词、语法分析和语义分析,到和应用更为接近的自然语言处理任务,如信息抽取、机器翻译、自动问答、文本摘要、对话系统等。书中将自然语言处理、计算语言学以及语音识别等内容融合在一起,把各种技术相互联系起来,让读者了解怎样才能最佳地利用每种技术,怎样才能将各种技术结合起来使用。


推荐理由:最经典的自然语言处理的入门教程,也被国外许多著名大学选为自然语言处理和计算语言学课程的主要教材。本书写作风格引人入胜,深入技术细节而又不让人感觉枯燥,不仅可以作为高等学校自然语言处理和计算语言学等课程的本科生和研究生教材,对于自然语言处理相关领域的研究人员和技术人员也是不可或缺的权威参考书。


2、Foundations of Statistical Natural Language Processing

作者:Christopher Manning and Hinrich Schütze

中文译名:统计自然语言处理基础

适合人群:初级到中级学者

推荐指数:★★★★★



主要内容:本书涵盖的内容十分广泛,分为四个部分,共16章,包括了构建自然语言处理软件工具将用到的几乎所有理论和算法。全书的论述过程由浅入深,从数学基础到精确的理论算法,从简单的词法分析到复杂的语法分析,适合不同水平的读者群的需求。同时,《统计自然语言处理基础:国外计算机科学教材系列》将理论与实践紧密联系在一起,在介绍理论知识的基础上给出了自然语言处理技术的高层应用(如信息检索等)。


推荐理由:经典的统计自然语言处理的入门教材。内容涉及统计自然语言处理用到的数学基础,词法到语法分析,以及自然语言处理的基本任务(比如文本分类、聚类,统计机器翻译,以及信息检索)。本教材成书较早(1999年),但是自然语言处理领域的基本概念和任务没有太大的变化,仍然适用于初学者快速了解自然语言处理相关的概念和任务。


3、统计自然语言处理(第2版)

作者:宗成庆

适合人群:初级到中级学者

推荐指数:★★★★☆



主要内容:本书介绍了统计自然语言处理的基本概念、理论方法和最新研究进展,内容包括形式语言与自动机及其在自然语言处理中的应用、语言模型、隐马尔可夫模型、语料库技术、汉语自动分词与词性标注、句法分析、词义消歧、篇章分析、统计机器翻译、语音翻译、文本分类、信息检索与问答系统、自动文摘和信息抽取、口语信息处理与人机对话系统等。


推荐理由:本书既有对基础知识和理论模型的介绍,也有对相关问题的研究背景、实现方法和技术现状的详细阐述。可作为高等院校计算机、信息技术等相关专业的高年级本科生或研究生的教材或参考书,也可供从事自然语言处理、数据挖掘和人工智能等研究的相关人员参考。




二、
进阶篇



主要目标:近年来,深度学习的算法和模型在自然语言处理的主要任务(例如机器翻译、自动问答、机器阅读、文本摘要、文本生成等)上取得了很好的效果。虽然现在对深度学习的模型和传统模型的优劣尚不能定论(根据不同的任务、应用场景和需求以及数据规模可能有不同的结论,实际系统中更多时候也是共存互补),但这个方向目前成为学术界和工业界关注和投入的重点方向,实际的自然语言应用系统中也都或多或少、或直接或间接用到深度学习的技术,值得大家关注。


1、Neural Network Methods in Natural Language Processing (Synthesis Lectures on Human Language Technologies)

作者:Yoav Goldberg

适合人群:初级到中级学者

推荐指数:★★★★★



主要内容:本书着重介绍神经网络模型在自然语言数据中的应用。本书的前半部分介绍了有监督的机器学习和前馈神经网络的基础知识,基于语言数据的机器学习的基础知识。它还涵盖了可以定义和训练任意神经网络的计算图形抽象方面的知识,是当代神经网络软件库设计的基础。本书的第二部分介绍了更多专门的神经网络体系结构,包括一维卷积神经网络、递归神经网络、条件生成模型和基于注意力的模型。这些体系结构和技术是机器翻译、句法分析和许多其他应用程序的最先进算法的推动力量。最后,本书还讨论了树形网络,结构化预测和多任务学习的前景。


推荐理由:大家都知道最近几年由于深度学习的兴起,使得图像识别、语音识别等多个方面都发生了很大的变革。深度学习在自然语言处理方面也是非常普遍了,一些经典的自然语言模式也都是基于神经网络的,这本书是目前市面上唯一一本介绍神经网络在自然语言处理的应用,是最新、最前沿的东西,而且书中的大量参考文献非常有价值。本书的作者在这个领域非常知名,并且对待学术态度极其严谨。深入浅出,值得对深度学习在自然语言处理中应用感兴趣的同学系统地读一读。


2、CS224d: Deep Learning for Natural Language Processing

课程导师:Richard Socher

适合人群:初级到中级学者

课程链接:

http://cs224d.stanford.edu/syllabus.html

推荐指数:★★★★★


主要内容:斯坦福大学自然语言小组的基于深度学习的自然语言处理的课程。介绍了自然语言处理领域广泛应用的网络结构(例如循环神经网络、卷积神经网络以及递归神经网络等)及其在自然语言处理的经典任务,例如分类任务(情感分类),序列标注任务(实体识别),序列到序列的生成任务(机器翻译)的实际应用。


推荐理由:自然语言处理是信息时代最重要的技术之一。理解复杂的语言也是人工智能的重要组成部分。自然语言处理的应用无处不在,因为人们用语言沟通了大部分内容:网络搜索、广告、电子邮件、客户服务、语言翻译、放射学报告等等。本课程比较适合对这个领域感兴趣的初学者。


3、Oxford Deep Learning for NLP class

课程导师:Phil Blunsom. (2017) Class by Deep Mind NLP Group.

适合人群:中级到高级学者

课程链接:https://machinelearningmastery.com/oxford-course-deep-learning-natural-language-processing/

推荐指数:★★★★★


主要内容:DeepMind团队成员在牛津大学教授基于深度学习的自然语言处理的课程。内容涉及到词嵌入,基于循环神经网络的语言模型,基于循环神经网络和卷积神经网络的文本分类,基于循环神经网络的条件语言模型(广泛应用于机器翻译、文本摘要等)及其中的注意力机制,以及基于深度学习模型的自动问答等主要自然语言处理的任务。


推荐理由:深度学习方法在一套自然语言处理问题上达到了最先进的效果,这是英国牛津大学教授的一门关于自然语言处理深度学习的课程,本课程的大部分材料都可以在线免费获取。比较适合对这个领域有一定的基础,希望了解最新进展和进一步学习和研究的同学。


好,读到这里的同学,我可以很负责任地告诉你,你已经是个NLP界的老司机了!


希望韦福如博士推荐的书单能够对想进入自然语言处理领域却有些迷茫、无从入手的小伙伴们有所帮助,也希望这些小可爱们将来能在这个领域发光发热!


也欢迎大家在下方留言区留言,分享你的NLP书单。



翻译技术沙龙是由语言服务行业的资深业者及专家发起组织的语言技术交流平台,也是全国最大的翻译技术公益社群。沙龙于2010年11月正式启动,面向所有翻译技术相关从业者与爱好者,主要关注领域包括计算机辅助翻译本地化技术传播项目管理机器翻译等,在线下通过嘉宾演讲以及头脑风暴等活动形式,达到观点交流、资源共享、知识传播的目的。

加入沙龙总群请在“翻译技术沙龙”(trantechsalon)微信公众号后台点击「沙龙」->「入群」获取入群方式。


登录查看更多
11

相关内容

自然语言处理(NLP)是语言学,计算机科学,信息工程和人工智能的一个子领域,与计算机和人类(自然)语言之间的相互作用有关,尤其是如何对计算机进行编程以处理和分析大量自然语言数据 。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【经典书】人工智能及机器学习导论,457页pdf
专知会员服务
160+阅读 · 2020年7月5日
斯坦福大学经典《自然语言处理cs224n》2020课件合集
专知会员服务
95+阅读 · 2020年5月25日
专知会员服务
103+阅读 · 2020年3月12日
【新书】Python中的经典计算机科学问题,224页pdf
专知会员服务
145+阅读 · 2019年12月28日
【论文推荐】文本分析应用的NLP特征推荐
专知会员服务
33+阅读 · 2019年12月8日
【新书】Python编程基础,669页pdf
专知会员服务
194+阅读 · 2019年10月10日
干货 | 适合NLP初学者的8个免费资源分享
THU数据派
4+阅读 · 2019年7月2日
书单 | 语音研究进阶指南
微软研究院AI头条
12+阅读 · 2019年3月22日
为你推荐一份深度学习书单,来学习吧~
THU数据派
12+阅读 · 2018年3月13日
书单 | 计算机视觉的修炼秘笈
AI科技评论
6+阅读 · 2018年2月14日
书单 | NLP秘笈,从入门到进阶
AI科技评论
6+阅读 · 2018年2月13日
NLP 学习秘笈,从入门到进阶 | 书单
人工智能头条
7+阅读 · 2017年12月25日
关于数据挖掘,有几本书推荐给你......
图灵教育
16+阅读 · 2017年10月11日
Python 书单:从入门到……
Linux中国
39+阅读 · 2017年8月6日
A Survey on Bayesian Deep Learning
Arxiv
63+阅读 · 2020年7月2日
Learning Recommender Systems from Multi-Behavior Data
Arxiv
7+阅读 · 2018年11月29日
Arxiv
6+阅读 · 2018年11月1日
Neural Architecture Optimization
Arxiv
8+阅读 · 2018年9月5日
Arxiv
22+阅读 · 2018年8月30日
Arxiv
8+阅读 · 2018年5月21日
Arxiv
5+阅读 · 2017年11月13日
VIP会员
相关VIP内容
【经典书】人工智能及机器学习导论,457页pdf
专知会员服务
160+阅读 · 2020年7月5日
斯坦福大学经典《自然语言处理cs224n》2020课件合集
专知会员服务
95+阅读 · 2020年5月25日
专知会员服务
103+阅读 · 2020年3月12日
【新书】Python中的经典计算机科学问题,224页pdf
专知会员服务
145+阅读 · 2019年12月28日
【论文推荐】文本分析应用的NLP特征推荐
专知会员服务
33+阅读 · 2019年12月8日
【新书】Python编程基础,669页pdf
专知会员服务
194+阅读 · 2019年10月10日
相关资讯
干货 | 适合NLP初学者的8个免费资源分享
THU数据派
4+阅读 · 2019年7月2日
书单 | 语音研究进阶指南
微软研究院AI头条
12+阅读 · 2019年3月22日
为你推荐一份深度学习书单,来学习吧~
THU数据派
12+阅读 · 2018年3月13日
书单 | 计算机视觉的修炼秘笈
AI科技评论
6+阅读 · 2018年2月14日
书单 | NLP秘笈,从入门到进阶
AI科技评论
6+阅读 · 2018年2月13日
NLP 学习秘笈,从入门到进阶 | 书单
人工智能头条
7+阅读 · 2017年12月25日
关于数据挖掘,有几本书推荐给你......
图灵教育
16+阅读 · 2017年10月11日
Python 书单:从入门到……
Linux中国
39+阅读 · 2017年8月6日
相关论文
A Survey on Bayesian Deep Learning
Arxiv
63+阅读 · 2020年7月2日
Learning Recommender Systems from Multi-Behavior Data
Arxiv
7+阅读 · 2018年11月29日
Arxiv
6+阅读 · 2018年11月1日
Neural Architecture Optimization
Arxiv
8+阅读 · 2018年9月5日
Arxiv
22+阅读 · 2018年8月30日
Arxiv
8+阅读 · 2018年5月21日
Arxiv
5+阅读 · 2017年11月13日
Top
微信扫码咨询专知VIP会员