EMNLP2019获奖论文出炉，最佳论文一作华人，导师为NLP公认大神Jason Eisner

2019 年 11 月 7 日 AI科技评论

作者 | 杨晓凡 & Camel

编辑 | 唐里

激动人心的时刻又到了！

作为自然语言处理领域的顶级会议之一 EMNLP 2019正式结束，而在闭幕式上也同时颁发了本年度的最佳论文。今年共有四个奖项，其中最佳论文奖由约翰霍普金斯大学摘取，最佳论文Runner-Up奖获得者来自斯坦福，最佳资源奖由Facebook等单位获得，最佳Demo奖的获得者来自艾伦人工智能研究所。值得注意的是，尽管获奖论文中不乏华人学者，但国内师生基本无缘最佳论文。

EMNLP是由国际语言学会（ACL）下属的SIGDAT小组主办的自然语言处理领域的顶级国际会议，在计算语言学类别下影响力排名全球第二。EMNLP每年举办一次，今年则与IJCNLP联合，在香港举办（这也是香港第二次举办EMNLP，上一次在2000年）。

据AI科技评论现场了解，EMNLP-IJCNLP 2019共收到有效投稿2877篇，录用683篇，其中长论文465篇，短论文218篇，录用率为23.7%。从投稿国家看，中国投稿数量已经排名第一，但录用数量相比美国却少了70篇。

本次参会人数共有1922人，相比去年2500人有所下降，但 AI 科技评论认为，此次参会人数的降低更多的原因在于学术研究之外，前段时间香港局势以及美国对持签证在美工作的研究者重新进入美国必须要重新签证的出台都在一定程度上影响了现场的参与率。

EMNLP2019 最佳论文获奖者全家福

一、最佳论文奖

EMNLP-IJCNLP最佳论文奖只针对长论文颁发。本届最佳论文奖的第一作者为来自约翰霍普金斯大学的Xiang Lisa Li，而其导师则为NLP界公认的大神Jason Eisner，后者对NLP结构学习领域贡献极大。

这篇论文获奖，原因则是：“在预训练词嵌入上使用变差信息瓶颈（Variational Information Bottleneck）的新颖应用。很棒的理论证明，不错的结果，很棒的语言学分析，很可能对许多任务都有帮助。”

论文地址： https://arxiv.org/abs/1910.00163v1

论文摘要： ELMo和BERT之类的预训练词嵌入包含了丰富的句法和语义信息，这让它们能在各种不同的任务上发挥出当前最好的表现。

这篇论文中作者提出了一个非常快速的变差信息瓶颈（Variational Information Bottleneck，VIB）方法，它可以非线性地压缩这些嵌入，只保留对辨别性解析器有帮助的信息。作者可以把每个词嵌入压缩成一个个离散的标签，或者是连续的向量。对于离散标签版本，这些自动压缩的标签可以形成一种替代性的标签集合。

作者通过实验表明，传统的POS标签标注中捕捉到的信息，大部分都可以被这些标签捕捉到，而且这些标签序列还可以在相同的标签粒度下得到更准确的解析。对于连续向量版本，实验表明用他们的方法适度压缩词嵌入之后可以得到更准确的解析器，他们测试的9种语言中有8种都得到了这样的结果；以往的简单的降维操作是达不到这样的效果的。

二、最佳论文第二名

最佳论文奖第二名（Runner-Up）的第一作者来自斯坦福大学，其联合导师为 Chris Manning （计算语言学的大牛，李飞飞辞任后，Manning接任了斯坦福AI Lab主任）以及Percy Liang。

这篇论文的颁奖词是“这是一篇影响力高、影响也深远广泛的论文，它介绍了如何设计、训练、解释探针，以便更充分地评价某种表征在给定的任务（比如POS标注或者依赖性解析）上到底学到了什么”。

论文地址 ： https://www.aclweb.org/anthology/D19-1275.pdf

论文摘要 ：研究者会设计训练一类监督模型来从表征（比如ELMo）预测某些属性（比如 POS），这类模型被称作探针，它们在许多语言学任务中都得到了很高的准确率。不过，到底是这些表征确实编码了语言学结构，还是只不过是这些探针学会了语言学任务而已呢？

在这篇论文中，作者提出了一些控制任务，任务中考察的是把单词类型匹配到随机的输出，作为语言学任务的补充任务（无关任务）。

设计这些任务的考虑就是，它们只能够被探针自己学会，也就成为了检验探针能力的方法。所以，一个好的探针（能切实反应表征的内涵的探针），应当是有选择性的，应当能在真正的语言学任务中取得高准确率，而在这个控制任务中取得低准确率。探针的选择性的体现，就是真语言学任务中的准确率和探针记忆单词类型的能力是一致的。

作者设计了基于英文POS标注和依赖性边缘检测的控制任务，通过实验表明目前流行的用于ELMo表征的探针并不具有选择性。作者还发现，一般被用来控制探针复杂度的dropout方法，其实对于提升多层感知机（MLP）结构模型的选择性并没有帮助，但其它类型的正则化方法是有效果的。最后，作者还发现，虽然针对ELMo的网络第一层的探针在POS标签任务中能取得比第二层的探针稍好的表现，但第二层的探针的选择性要强很多；这也带来了一个新问题：到底网络的哪一层能更好地表征POS。

作者在报告中也之处了他们控制任务的局限性：

三、最佳资源奖

最佳资源奖的论文是由Facebook、法国索邦大学和约翰斯·霍普金斯大学共同完成。

这项工作的贡献在于其提供的机器翻译数据集对低资源语言有很重要的意义，而详细且清晰的质量控制方法也值得其他类似的语料库收集工作借鉴。

论文地址： https://arxiv.org/pdf/1902.01382.pdf

数据集地址： https://github.com/facebookresearch/flores

注：该论文在arXiv 上的名称为《The FLoRes Evaluation Datasets for Low-Resource Machine Translation: Nepali-English and Sinhala-English》

论文摘要： 世界上绝大多数语言都是低资源的，它们几乎没有（或只有少量）的并行数据。不幸的是，当前的机器翻译（MT）系统在低资源情况下还不能很好地工作。

当然除了可用于监督学习的资源太少外，这些语言还面临一个问题，即由于缺乏可自由公开使用的基准，因此很难评估在低资源语言上进行训练的方法的优劣。

在这项工作中，作者从Wikipedia网页中提取句子，并在低资源预料对（尼泊尔-英语和僧伽罗-英语）中引进了新的评估数据集。这些语言具有完全不同的形态和语法，对于这些语言，几乎没有可用的域外（out-of-domain）并行数据，但却有大量的单语数据可以使用。

研究人员在文章中描述了收集和交叉检验翻译质量的完整过程，并使用几种学习方式（完全监督、弱监督、半监督、无监督）来报告基准性能。其实验结果相当有意思，当前最先进的方法在这个基准上的表现反而相当差。这也对研究低资源机器翻译的社区提出了新的挑战。

四、最佳Demo奖

最佳Demo将的获奖者来自艾伦人工智能研究所和加利福尼亚大学尔湾分校。

这篇论文介绍了一个在AllenNLP基础上开发的开源工具包，它可以帮助解释基于神经网络的NLP系统。NLP领域里，一个重要需求就是怎么来更好地解释“不透明”的神经网络，所以这个系统很可能会启发更多研究。

论文地址： https:/ /arx iv.org/abs/1909.09251

演示地址： https://allennlp.org/interpret

论文摘要： 基于神经网络的NLP模型变得越来越准确，但它们并不完美，而且不透明 —— 它们会在和人类直觉不同的情况下犯错，人类用户就会对它们的行为感到十分迷惑。模型解释方法缓解这个问题的方式是为模型的某一些预测提供解释。然而不幸的是，目前的模型解释方法都很难用于新的模型、新的任务，这就让神经网络NLP的开发应用人员们、解释性方法的研究人员们都不乐意继续使用这些方法。

这篇论文中作者介绍了 AllenNLP Interpret，这是一个用于解释NLP模型的灵活的代码框架（工具包）。这个工具包中包括了针对所有 AllenNLP 模型的解释原型（比如输入梯度），一整套集成的解释方法，以及面向前端的可视化组件库。作者在多种不同的模型、不同的任务（包括用BERT进行语言掩蔽建模、用BiDAF进行阅读理解）上针对5种解释方法（包括显著性热图和对抗性攻击）实现了可视化demo，展示了工具包的灵活性和功能性。这些demo和所有的代码、教程都可以在 allennlp.org/interpret 访问。