动态 | ACL 2018 首日:8 大 tutorial,深度强化学习最受关注

2018 年 7 月 15 日 AI科技评论

AI 科技评论按:继 2017 年的温哥华之旅后,ACL 2018 在澳大利亚墨尔本举办,举办地点为墨尔本会展中心,也是 IJCAI2017 举办地。 

今天是大会 tutorial 环节,虽然主会在明天召开,但作为计算机语言学和自然语言处理领域最顶尖的会议之一,tutorial 也吸引到不少参会者前来注册。从引导大家进入会场的指示牌上可以看到众多熟悉的国内企业,如字节跳动为大会钻石赞助商,此外,百度、京东、腾讯、华为等企业也赫然在列。

作为 ACL 延续至今的传统,tutorial 旨在帮助领域新手了解计算机语言学与自然语言处理的最新进展以及核心技术,促进大家相互交流与探讨。今年的 Tutorial 主席为康奈尔大学的 Yoav Artzi 和佐治亚理工学院的 Jacob Eisenstein,据介绍,今年的 tutorial 选择参照了质量、相关性、趣味以及平衡四个度量。

相较去年的六个议程,今年增加到八个。

上午的四个议题分别为:

  • 100 件你总想知道但却害怕去问的语义学&语用学知识

  • 对话 AI 系统的神经网络方法

  • 变分推理和深度生成模型

  • 将语言和视觉与行动联系起来

下午的四个议题分别为:

  • 超越多词表达的方法:处理习语和隐喻

  • 神经语义分析

  • NLP 中的深度强化学习

  • 多语言实体发现和链接

相较于去年深度学习占据绝大多数议题,今年的内容则更加多样化,如语言与视觉、语义&语用学知识、多语言实体等。雷锋网 AI 科技评论在现场看到,最受欢迎的议题有上午的 Neural Approaches to Conversational AI 和下午的 Deep Reinforcement Learning for NLP,引发众多参会人员关注。目前,tutorial PPT 大多已经公布,想要了解更多的同学及研究人员,可以在会议官网进行下载。(注:4 *8 个小时的 tutorials,上千张 PPT,相信一定会为大家开启新世界的大门)

以下为雷锋网 AI 科技评论对这八个议题的简要介绍:

  • Tutorial 1:100 Things You Always Wanted to Know about Semantics & Pragmatics But Were Afraid to Ask

地址:http://faculty.washington.edu/ebender/papers/Bender-ACL2018-tutorial.pdf

meaning 是自然语言处理 (NLP) 中的一个基本概念,NLP 的目标是建立一个能向你表达、理解你的表达的系统。为了使 NLP 能从解决部分特定任务应用到更为广泛的领域,它必须了解人类如何使用语言来表达和理解社交意图。这一 tutorial 的目的是提供一些有用的语义学和语用学信息。

  • Tutorial 2:Neural Approaches to Conversational AI

地址:https://www.microsoft.com/en-us/research/uploads/prod/2018/07/neural-approaches-to-conversational-AI.pdf

将阐述近几年来对话人工智能系统上基于神经网络方法。对话系统分为三类:问答智能体;任务导向型智能体;社交机器人,在这一 tutorial 上会回顾最先进的神经网络方法,在基于神经网络的方法和传统符号方法之间建立联系,使用特定的系统和模型作为研究案例,来讨论我们所取得的进展和面临的挑战。

  • Tutorial 3:Variational Inference and Deep Generative Models

地址:https://github.com/philschulz/VITutorial#general

这一 tutorial 将对变分推理进行介绍,对如何使用变分方法来训练深度生成模型(DGMs)进行了详细讲解,包括一系列实际案例。同时,将提及这些学习算法所需的数学背景,提供实现指南。也将介绍连续和离散变量模型。

  • Tutorial 4:Connecting Language and Vision to Actions

地址:https://lvatutorial.github.io/

这一 tutorial 将介绍结合文本和视觉理解的多模式任务和数据集,会为大家带来现有的 image captioning、视觉问题回答 (VQA) 和视觉对话等任务的最先进技术,评价训练模型时主要的模块 (如 co-attention ) 和一些最新算法 (如一些合作/对抗博弈)。然后,将讨论结合语言、视觉和动作在当前面临的挑战和即将面临的挑战,并介绍一些最新发布的用于此类研究的交互式 3D 模拟环境。

  • Tutorial 5:Beyond Multiword Expressions: Processing Idioms and Metaphors

Tutorial 主讲人 Valia Kordoni 表示,这一 tutorial 的目标受众是机器学习、解析 (句法和语义) 和语言技术方面的研究人员和实践者,并不一定需要是习语和隐喻方面的专家。这一 tutorial 的目的是建立与会者对如下几点的清晰认知:习语和隐喻的语言特点;使用当前领先 NLP 技术的习语和隐喻计算模型;深度学习和自然语言处理之间的相关性;未来将要做的一系列工作。

  • Tutorial 6:Neural Semantic Parsing

地址:https://github.com/allenai/acl2018-semantic-parsing-tutorial(待更新)

语义分析是将自然语言表达翻译成机器可执行的符号的研究,已有很多成熟应用,如问答系统、语音助手和代码生成等等。在过去的两年间,随着神经编解码方法的引入,语义分析模型发生了巨大的变化,我们得以重新思考许多先前对语义分析的假设。

这一 tutorial 将描述研究人员采用的各种对语义分析的研究,还将评估语义分析器所使用的正式语言,并探讨为什么最近的工作会选择使用标准的编程语言而不是更多语言驱动的表示。然后,将描述语义分析的一个极具挑战的设置——在将自然语言转换为正式语言时,解析器必须考虑额外的上下文或交互,接下来将描述这方面的最新工作。最后,将介绍 AllenNLP 用于语义分析研究的一些工具。

  • Tutorial 7:Deep Reinforcement Learning for NLP

地址:https://www.cs.ucsb.edu/~william/papers/ACL2018DRL4NLP.pdf

许多自然语言处理 (NLP) 任务 (包括生成、推理、信息提取、关联解析和对话等) 都可以表示为深度强化学习 (deep reinforcement learning, DRL) 问题。然而,由于语言往往是离散的,所有句子的空间都是无限的,因此在将 NLP 任务构想为强化学习问题时存在许多挑战。在这次 tutorial 上,将介绍 NLP 中一些实用的 DRL 解决方案。我们描述了在 NLP 中设计深度强化学习算法方面的最新进展,特别关注于生成、对话和信息提取。最后,我们讨论了这些算法成功及失败的原因,旨在提供一些关于深度强化学习的实用建议,以解决实际的 NLP 问题。

  • Tutorial 8:Multi-lingual Entity Discovery and Linking

地址:https://sites.google.com/view/xlingedl/home/tutorial-materials(待更新)

本 tutorial 的主要目标是评估跨语言 EL 框架。会先讨论传统的 EL 技术和度量,然后,将介绍更近的方法,如神经 EL(Neural EL),将评估最先进的神经 EL 系统的基本模块,分析当前一些关于英文 EL 的结果。然后,将回到跨语言 EL,讨论一些在多种语言间使用的方法。特别地,主讲人会讨论和比较使用多语言词嵌入的多种方法,最后,还将讨论跨语言 EL 在搜索引擎和商业产品销售应用程序等各种 App 中的应用。

以上就是对今天 tutorial 的全部介绍,选取 Neural Approaches to Conversational AI 上一张有意思的 PPT 分享给大家:

在 tutorial 结束后,接下来是 welcome reception 接待环节。第一天的议程就此落下帷幕,正会即将于明天召开,敬请期待雷锋网 AI 科技评论带来的报道。

┏(^0^)┛欢迎分享,明天见!

登录查看更多
3

相关内容

知识图谱推理,50页ppt,Salesforce首席科学家Richard Socher
专知会员服务
105+阅读 · 2020年6月10日
商业数据分析,39页ppt
专知会员服务
157+阅读 · 2020年6月2日
【AAAI2020知识图谱论文概述】Knowledge Graphs @ AAAI 2020
专知会员服务
132+阅读 · 2020年2月13日
深度强化学习策略梯度教程,53页ppt
专知会员服务
175+阅读 · 2020年2月1日
2019->2020必看的十篇「深度学习领域综述」论文
专知会员服务
269+阅读 · 2020年1月1日
最新BERT相关论文清单,BERT-related Papers
专知会员服务
52+阅读 · 2019年9月29日
干货 | ACL 2019 知识图谱的全方位总结
THU数据派
14+阅读 · 2019年8月17日
技术动态 | ACL 2019 知识图谱的全方位总结
开放知识图谱
4+阅读 · 2019年8月14日
2018 ACL fellow 出炉,5人上榜,无中国学者
专知
4+阅读 · 2018年12月18日
年度必读:2018最具突破性人工智能论文Top 10
新智元
5+阅读 · 2018年12月2日
自然语言处理顶会 ACL 2018 参会见闻
PaperWeekly
3+阅读 · 2018年7月26日
人工智能领域顶会IJCAI 2018 接受论文列表
专知
5+阅读 · 2018年5月16日
Question Generation by Transformers
Arxiv
5+阅读 · 2019年9月14日
Star-Transformer
Arxiv
5+阅读 · 2019年2月28日
Arxiv
3+阅读 · 2018年4月5日
Arxiv
7+阅读 · 2018年3月17日
Arxiv
25+阅读 · 2017年12月6日
Arxiv
3+阅读 · 2015年5月16日
VIP会员
相关论文
Question Generation by Transformers
Arxiv
5+阅读 · 2019年9月14日
Star-Transformer
Arxiv
5+阅读 · 2019年2月28日
Arxiv
3+阅读 · 2018年4月5日
Arxiv
7+阅读 · 2018年3月17日
Arxiv
25+阅读 · 2017年12月6日
Arxiv
3+阅读 · 2015年5月16日
Top
微信扫码咨询专知VIP会员