【教程】188页PPT帮你理解深度学习在智能对话系统中应用

2018 年 8 月 8 日 专知
【教程】188页PPT帮你理解深度学习在智能对话系统中应用

【导读】本文为大家带来的是NAACL2018 tutorial:Deep Learning for Conversational AI,希望对大家理解对话系统相关技术有所帮助。


作者 | Pei-Hao Su

编译 | 专知

整理 | Yongxi


摘要:


口语对话系统(SDS, Spoken Dialogue Systems)因为其有望彻底改变人机交互方式,因此具有巨大的商业潜力。深度学习的出现导致了NLP研究领域的重大发展,本教程的目标是使研究人员了解最近NLP领域中的关键难题所在。


从研究角度来看,口语对话系统的设计提出了许多重大挑战,因为这些系统依赖于:a)解决NLP和决策任务;b)将各个组件拼接成可用的对话系统Pipeline。对话系统研究的长期目标是帮助对话系统在开放域的环境中与人进行任意主题的交流,并帮助人们完成各种任务。此外,这样的系统需要在线自主学习以改善其性能,并使用周围环境信号以及来自隐式和显式的反馈来改进自身系统。虽然这种系统的设计传统是模块化、领域确定且语言特定的,但深度学习的进步已经缓解了许多的设计问题。


本教程的目的是通过提供研究背景,可用性调查以及最新进展的行业分析,以鼓励NLP社群进行对话系统研究。其中包括三个部分:1、语言理解;2、对话管理;3、语言生成。将解释任务型对话系统和聊天机器人之间的差异,以显示两者设计背后的动机。对于每个关键组件,我们将定义研究问题,提供简要的文献总数,并介绍当前最先进的方法,还将讨论补充资源(例如可用数据集和工具包)。最后,将介绍未来的工作,关键问题以及当前的行业实践。


目录:


  • 第一部分:对话系统介绍

    • 两种范例:任务型对话系统与聊天机器人

    • 为什么会有任务型对话系统?

    • 全流程核心模块概览

  • 第二部分:语言理解与对话状态跟踪

    • 基于规则的方法与传统方法

    • 联合方法:delexicalisation-based

    • 联合方法:基于词向量的方法

    • 解决ASR误差与语言歧义

    • 不同领域与不同语言间的语言理解

  • 第三部分:对话管理与强化学习

    • 基于规则和监督方法

    • 基于强化学习的方法(包括强化学习理论)

    • 当前强化学习方法的挑战

  • 第四部分:语言生成以及数据收集

    • 传统语言生成方法

    • 基于RNN的语言生成方法

    • 端到端的对话模型

    • 为什么收集数据很困难?

    • 两种收集数据的范例

  • 第五部分:应用、挑战、结论

    • 最近任务型对话系统的趋势

    • 工具包介绍以及实践

    • 挑战:可扩展性、多领域、多语言


请关注专知公众号(扫一扫最下面专知二维码,或者点击上方蓝色专知),

  • 后台回复“DLAI2018” 就可以获取Deep Learning for Conversational AI pdf下载~


参考链接:http://naacl2018.org/tutorial.html


附PPT全文:








-END-

专 · 知


人工智能领域主题知识资料查看与加入专知人工智能服务群

专知AI知识技术服务会员群加入人工智能领域26个主题知识资料全集获取欢迎微信扫一扫加入专知人工智能知识星球群,获取专业知识教程视频资料和与专家交流咨询


请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料

请加专知小助手微信(扫一扫如下二维码添加),加入专知主题群(请备注主题类型:AI、NLP、CV、 KG等)交流~


 AI 项目技术 & 商务合作:bd@zhuanzhi.ai, 或扫描上面二维码联系!


关注专知公众号,获取人工智能的专业知识!

点击“阅读原文”,使用专知

登录查看更多
12

相关内容

【导读】这一份最新216页的ppt概述《深度学习自然语言处理》,包括神经网络基础,词向量表示,序列句子表示,分类标注、生成句子,预训练。

成为VIP会员查看完整内容
0
137

题目

自然语言处理中的迁移学习,41 页PPT

关键字

自然语言处理,迁移学习

简介

本教程,将系统地介绍在自然语言处理中,迁移学习的应用。

内容

  • 概念与历史:什么是迁移学习?
  • 最先进的迁移学习方法:预培训和适应
  • Hugging Face and Transformers
  • 当前迁移学习的趋势、限制和开放性问题
  • Takeaways
成为VIP会员查看完整内容
0
63

教程简介: 最近AI对话技术的飞跃式发展,无疑与越来越复杂的深度学习算法有关,而深度学习算法所捕捉到的模式是由各种数据收集机制生成的。因此,本教程的目标是双重的。首先,它旨在让学术界熟悉基于统计学的对话系统算法设计的最新进展,其中包括开放性领域和基于任务的对话范例。本教程的重点是介绍对话系统端到端的学习机制,以及它们与更加常见的模块系统之间的关联。从理论上讲,从数据中学习端到端可以为对话系统提供无缝的、空前的可移植性,有着非常广阔的应用前景。从实践的角度来看,该领域仍然存在大量的研究挑战和机会:在本教程中,我们会分析理论和实践之间的差异,并介绍当前端到端对话学习的主要优势和实践中的局限性。

目录:

  • 理解数据(带注释和不带注释的)收集对AI对话系统的重要性。
  • 介绍最新的关于AI对话系统的数据收集范式。
  • 阐述大规模无结构的对话数据在对话系统预训练方面的可用性。
  • 提供端到端数据驱动在AI对话学习模型的概述。
  • 讨论数据和算法选择之间的重要性。
  • 关于当前(任务导向)AI对话在实际操作中的一个行业视角。

下载链接: https://pan.baidu.com/s/1qV4uQItQSZj0kWsXa4QgPg 提取码: kk3v

成为VIP会员查看完整内容
0
49
小贴士
相关VIP内容
专知会员服务
103+阅读 · 2020年6月28日
专知会员服务
56+阅读 · 2020年5月3日
专知会员服务
137+阅读 · 2020年4月26日
专知会员服务
152+阅读 · 2020年3月6日
专知会员服务
84+阅读 · 2020年2月8日
【教程】自然语言处理中的迁移学习原理,41 页PPT
专知会员服务
63+阅读 · 2020年2月8日
【EMNLP2019教程】端到端学习对话人工智能,附237页PPT下载
专知会员服务
49+阅读 · 2019年11月25日
[综述]基于深度学习的开放领域对话系统研究综述
专知会员服务
54+阅读 · 2019年10月12日
相关论文
Xipeng Qiu,Tianxiang Sun,Yige Xu,Yunfan Shao,Ning Dai,Xuanjing Huang
91+阅读 · 2020年3月18日
Few-shot Natural Language Generation for Task-Oriented Dialog
Baolin Peng,Chenguang Zhu,Chunyuan Li,Xiujun Li,Jinchao Li,Michael Zeng,Jianfeng Gao
27+阅读 · 2020年2月27日
Kamran Kowsari,Kiana Jafari Meimandi,Mojtaba Heidarysafa,Sanjana Mendu,Laura E. Barnes,Donald E. Brown
11+阅读 · 2019年6月25日
Antoine J. -P. Tixier
10+阅读 · 2018年8月30日
End-to-end Speech Recognition with Word-based RNN Language Models
Takaaki Hori,Jaejin Cho,Shinji Watanabe
3+阅读 · 2018年8月8日
Maha Elbayad,Laurent Besacier,Jakob Verbeek
7+阅读 · 2018年5月14日
Mia Xu Chen,Orhan Firat,Ankur Bapna,Melvin Johnson,Wolfgang Macherey,George Foster,Llion Jones,Niki Parmar,Mike Schuster,Zhifeng Chen,Yonghui Wu,Macduff Hughes
4+阅读 · 2018年4月26日
Tom Young,Devamanyu Hazarika,Soujanya Poria,Erik Cambria
7+阅读 · 2018年2月20日
Hongshen Chen,Xiaorui Liu,Dawei Yin,Jiliang Tang
11+阅读 · 2018年1月11日
Yixing Fan,Liang Pang,JianPeng Hou,Jiafeng Guo,Yanyan Lan,Xueqi Cheng
5+阅读 · 2017年7月23日
Top