35页自然语言处理深度学习综述,带你纵览NLP知识全貌

2018 年 8 月 1 日 专知

【导读】随着深度学习技术的蓬勃发展,自然语言处理领域也是日新月异,本文为大家带来了最新的基于深度学习的自然语言处理综述,希望能够帮助大家了解NLP领域中的最新进展。 

作者 | Daniel W. Otter, Julian R. Medina, Jugal K. Kalita

编译 | 专知

整理 | Yongxi


A Survey of the Usages of Deep Learning in Natural Language Processing


摘要:


最近几年中,随着深度学习模型的发展,自然语言处理能力得到了极大的改进。这篇综述主要为大家提供一个简短的介绍,来了解在NLP领域中的常见深度学习架构以及方法,希望能为大家在现今种类繁多的研究中筛选高质量的科研成果。本文分析了除计算语言学之外的几个核心语言学处理问题,并对当前最新研究进展、以及未来的研究方向进行了讨论。


介绍:


自然语言处理领域包含了广泛多样的研究方向,主要包括计算处理与人类语言理解。从19世纪30年代开始,这个领域就开始使用人工制定的特殊规则对人类语言进行处理。在19世纪80年代,数据驱动的统计概率方法以及机器学习方法开始受到重视。第一个人工神经网络构想起始于上世纪40年代,主要目标是令计算设备获得人类智能。最近,由于GPU技术进步,在其上的计算与并行能力逐步提升,已经达到了人们运用深度学习处理实际问题的门槛,甚至可操作超过10亿的可训练参数。另外,业界对海量数据的收集能力,使得这种深层架构可以在数据充足的环境下工作,进而通过各类学习算法,完成具体任务。


最近几年,NLP领域内的研究者都开始利用这种方法,来完成深度神经网络的训练过程,并逐渐改进了网络的训练结果。过去五年间,神经网络和深度学习在这一领域都得到了长足的发展。这直接使得NLP核心研究领域、工业界的应用能力得到大幅度的提升。这篇综述主要提供了一份关于自然语言处理和深度神经网络的简短描述,并针对如何利用深度学习方法来解决当前NLP问题,进行了深入的讨论。本篇综述的主要目标读者是那些在开始进一步深入研究和实践之前,希望快速了解该领域最近研究成果的人们。


综述结构:


  • 整体介绍

  • NLP核心任务

    • 语言模型

    • 形态学

    • 语法解析

    • 语义理解

  • 深度学习在NLP中的应用

    • 信息抽取

    • 文本分类

    • 自动摘要

    • 自动问答

    • 机器翻译

    • 图像、视频描述


原文链接:

https://arxiv.org/abs/1807.10854


请关注专知公众号(扫一扫最下面专知二维码,或者点击上方蓝色专知),

  • 后台回复“SDLNLP” 就可以35页的 自然语言处理深度学习综述下载链接~ 


PDF:

-END-

专 · 知


人工智能领域主题知识资料查看与加入专知人工智能服务群

【专知AI服务计划】专知AI知识技术服务会员群加入人工智能领域26个主题知识资料全集获取欢迎微信扫一扫加入专知人工智能知识星球群,获取专业知识教程视频资料和与专家交流咨询


请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料

请加专知小助手微信(扫一扫如下二维码添加),加入专知主题群(请备注主题类型:AI、NLP、CV、 KG等)交流~


关注专知公众号,获取人工智能的专业知识!

点击“阅读原文”,使用专知

登录查看更多
88

相关内容

自然语言处理(NLP)是语言学,计算机科学,信息工程和人工智能的一个子领域,与计算机和人类(自然)语言之间的相互作用有关,尤其是如何对计算机进行编程以处理和分析大量自然语言数据 。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
【北航】面向自然语言处理的预训练技术研究综述
专知会员服务
112+阅读 · 2020年4月23日
专知会员服务
103+阅读 · 2020年3月12日
专知会员服务
199+阅读 · 2020年3月6日
【综述】金融领域中的深度学习,附52页论文下载
专知会员服务
163+阅读 · 2020年2月27日
机器翻译深度学习最新综述
专知会员服务
98+阅读 · 2020年2月20日
深度学习自然语言处理综述,266篇参考文献
专知会员服务
229+阅读 · 2019年10月12日
[综述]基于深度学习的开放领域对话系统研究综述
专知会员服务
78+阅读 · 2019年10月12日
【NLP】万字长文概述NLP中的深度学习技术
产业智能官
18+阅读 · 2019年7月7日
自然语言处理常识推理综述论文,60页pdf
专知
73+阅读 · 2019年4月4日
基于深度学习的NLP 32页最新进展综述,190篇参考文献
人工智能学家
27+阅读 · 2018年12月4日
自然语言处理的十个发展趋势
北京思腾合力科技有限公司
5+阅读 · 2017年11月25日
综述 | 一文读懂自然语言处理NLP(附学习资料)
PaperWeekly
9+阅读 · 2017年11月14日
Arxiv
3+阅读 · 2018年12月18日
Arxiv
6+阅读 · 2018年11月1日
Arxiv
5+阅读 · 2018年10月11日
Arxiv
22+阅读 · 2018年8月30日
Arxiv
6+阅读 · 2018年3月27日
Arxiv
27+阅读 · 2017年12月6日
VIP会员
相关VIP内容
【北航】面向自然语言处理的预训练技术研究综述
专知会员服务
112+阅读 · 2020年4月23日
专知会员服务
103+阅读 · 2020年3月12日
专知会员服务
199+阅读 · 2020年3月6日
【综述】金融领域中的深度学习,附52页论文下载
专知会员服务
163+阅读 · 2020年2月27日
机器翻译深度学习最新综述
专知会员服务
98+阅读 · 2020年2月20日
深度学习自然语言处理综述,266篇参考文献
专知会员服务
229+阅读 · 2019年10月12日
[综述]基于深度学习的开放领域对话系统研究综述
专知会员服务
78+阅读 · 2019年10月12日
相关资讯
相关论文
Arxiv
3+阅读 · 2018年12月18日
Arxiv
6+阅读 · 2018年11月1日
Arxiv
5+阅读 · 2018年10月11日
Arxiv
22+阅读 · 2018年8月30日
Arxiv
6+阅读 · 2018年3月27日
Arxiv
27+阅读 · 2017年12月6日
Top
微信扫码咨询专知VIP会员