ACL 2022 | 字节跳动与新加坡科技与设计大学提出：基于演绎推理的数学解题

©作者 | 字节跳动AI Lab、UT Austin等

来源 | 机器之心

目前强大的语言模型普遍在很多下游 NLP 任务中能轻易地达到比较好的结果，但在推理效果上没有达到我们的预期 [1]。字节跳动人工智能实验室与新加坡科技与设计大学提出一个基于演绎推理的方法，希望实现类似 System 2 的推理能力 [2]。

论文标题：

Learning to Reason Deductively: Math Word Problem Solving as Complex Relation Extraction

收录会议：

ACL 2022

论文链接：

https://arxiv.org/abs/2203.10316

代码链接：

https://github.com/allanj/Deductive-MWP

研究动机

作为一类需要解题的推理过程，在数学解题任务中比较适合应用演绎推理模型。我们尝试在此任务上做一些多步的推理 (multi-step reasoning)， 使得模型预测能够提供相对可解释的预测结果。

问题描述

在给定一个数学问题的情况下，我们进行算术解答并得到答案。

Question: In a division sum , the remainder is 8 and the divisor is 6 times the quotient and is obtained by adding 3 to the thrice of the remainder. What is the dividend? 

Answer: 129.5 

Mathematical Expression: ((8×3+3)×(8×3+3)÷6)+8

上面的这个（取自于 MathQA [3] dataset）例子中，我们需要得到最后被除数 (dividend) 129.5。同时数据集也给出计算的表达式，可以用来当作监督信号。这种多步的表达式，也便于验证 multi-step reasoning 的方法。这边我们也主要考虑一些基本的数学运算符，包括加 (＋) 减 (-) 乘 (×) 除 (÷) 以及幂 (^)，其他更复杂的运算其实可以分解成这些基本的运算。

现有方法

目前流行的数学解题方法主要是 sequence-to-sequence (Seq2Seq) 以及 sequence-to-tree (Seq2Tree) 的方法。针对 Seq2Seq 的方法，优点是简单直接，缺点是需要有非常大量的数据才得到好的效果，否则效果不如结构化模型 Seq2Tree。Seq2Tree 主要的代表工作是 Goal-Driven Tree-Structure (GTS) [4]，目前也是大家比较频繁借鉴的工作。

同时 Seq2Tree 也有可以改进的地方，如下图所示，生成的过程是一个前序遍历 (pre-order traveral) 的过程，会先生成顶端的数学运算符 (operator)，然后是 operator 左边的运算，最后是右边的运算。生成的过程相对来说比较不符合直觉，并不是一个一步步计算的过程。此外，我们可以看到同一个表达式 8×3+3 被生成了 2 次，然而我们其实是可以重复使用这个表达式的结果。但在 Seq2Tree 的方法中，我们无法这样去使用，必须重新生成整个子树结构。

演绎推理

我们的思路其实比较直接，通过一步步的方法得到最后的结果，并且每一步的生成可以对应到文中相应的描述。

如上图所示，我们只需要对所提供的表达式拆成多步运算即可。前两步的运算，我们得到除数 divisor，第三步我们得到商 quotient ，最后两步则得到最后的被除数 dividend。对于每一步，我们能够找到文中相对应的文本描述，总的来说，有以下的优点：

1. 通过重复利用已有的结果计算，减少了总的计算步数；

2. 一步步的计算过程相对于 Seq2Tree 的生成更加可解释；

3. 生成是生成整个表达式，而不是单个 operator 或者是数字。这样的 constraint 在训练过程中使得模型要更加准确的得到整个表达式。

额外的一个优点是，假如我们已经有了前三步，我们也可以从第三步出发继续推理，不需要从头开始。

推理系统

模型输入：在问题中出现的数字以及整个 constant 的集合，我们用 Q 表示。

对于表达式的表示：

表示从 到 的数学运算，上述这个表达式 是有方向性的。比如对于减法或者除法，我们会有「-_reverse」这样的符号，代表相反的方向 。

从正式的演绎推理系统角度，我们可以用上图表示状态的变化 （和 Dependency Parsing 中的 transition-based system 类似），从 t 到 t+1 状态的变化主要是增加了新的表达式 ，并且这个新的表达式会成为新的候选数字加入到下一个状态当中。

上面这张图简单地可视化了状态的变化过程，我们也可以看到，随着 t 的增加，状态的 size 也会由于新的数字的加入随之变「大」。

模型实现

首先我们还是用预训练语言模型例如 BERT 或者 Roberta 得到数字的向量表达 (representation)，然后在这个基础上做 inference。这边我们用一个 q_1/q_2 × q_3 作为例子：

第一步我们得到 和  的联合表示，主要通过拼接 representation 方式完成，然后对于每一个 operator ，我们有一个 operator-specific 的 Feed-forward network 来得到数学表达式 的向量表达，从而这个新的表达式在下一个 timestep，会变成新的候选数字 。同时，在 inference 的过程当中，我们可能会得到错误的表达式，比如说上图的 。所以，我们是在所有可能的表达式中，通过 scoring 选取一个最好的表达式来当作 。然后当 的时候，我们最后能得到 。

注意到的是，在不同的 timestep t，状态当中数字数量不同，导致所有可能的数学表达式的数量不同。如果我们做 beam-search 的话，这种情况是比较困难的。因为每个 timestep 的概率分布会不平衡。

我们的方法的好处是可以增加一些 constraints，比如说如果 是一个不可能出现的表达式，或者是 的结果是不可能存在的，则我们可以直接从整个状态空间中去掉这个表达式。

实验

我们主要在现有的公开数据集中做实验：MAWPS, Math23k, MathQA 和 SVAMP。这边展示一些现有比较好的方法的主要结果。实验过程中，我们最好的 varaint 是 「Roberta-DeductiveReasoner」，并且我们不采用 beam-search，这边比较的之前的工作，全都有采用 beam size 为 5 的 beam search。

整体来说，我们在答案的准确率上能比之前的 seq2tree 的工作都能高出不少，我们把主要的提升归咎于我们预测整个表达式，而不是一个个操作符和数字。但整体的绝对数字，发现并不高，尤其是 SVAMP ，我们文章中后续对 SVAMP 的困难度做了一些分析，详细可以看一下文章细节。对于 SVAMP 数据集，我们发现 constraint 的作用尤其的大，这里的 constraint 主要是不允许中间结果出现负数。这个 constraint 对于我们 BERT-based 的 Reasoner 能提高 7 个点的准确率，对于 Roberta-based 的 Reasoner 能提高 2 个点。

可解释分析 

在这个例子中，我们想展示模型的可解释的能力。

Question: There are 255 apple trees in the orchard. Planting another 35 pear trees makes the number exactly the same as the apple trees. If every 20 pear trees are planted in a row, how many rows can be planted in total?

Answer: 11. Gold Expression: (255 - 35) / 20.  Predicted Expression: (255 + 35) / 20 Deductive Scores: Prob(‘255+35=290’) = 0.068 > Prob(‘255-35=220’) = 0.062

模型在第一步表达式预测错误，我们定位到图中标红的那一句描述。我们怀疑「planting another」会误导模型去预测 + 的数学运算符。我们通过修改那一句话希望那一句话会有更准确的表达，下图中标蓝的为修改后的话。

Question: There are 255 apple trees in the orchard. The number of pear trees is 35 fewer than the apple trees.  If every 20 pear trees are planted in a row, how many rows can be planted in total? 

Prob(255+35=290) = 0.061 < Prob(255-35=220) = 0.067

通过 fewer 这个词希望让模型知道这个地方是一个减法。这个分析能让我们从模型的预测中，学习到模型 inference 过程中的一些行为。

结论 

本文提出的整体演绎推理系统从速度上相对树结构模型更高效，并且可以提供一些可解释的解答步骤。此外，我们也能加入一些先验知识变成 constraint ，从而提高模型的效果。从理论上说，我们的演绎推理模型可以不仅仅用在数学解题上，对于其他涉及多步推理的问答任务以及一些结构预测任务也是适用的。

我们的模型也有一些缺陷，比如说计算中有很多的数学运算符以及常数的时候，模型耗费的空间会比较大，造成资源的浪费。此外，beam search 目前还无法很好的地运用在这个框架下面，会有上文提到的概率分布不平衡的问题。

参考文献

[1] Bengio, Yoshua, Yann Lecun, and Geoffrey Hinton. "Deep learning for AI." Communications of the ACM 64.7 (2021): 58-65.

[2] Daniel, Kahneman. "Thinking, fast and slow." (2017).

[3] Amini, Aida, et al. "MathQA: Towards Interpretable Math Word Problem Solving with Operation-Based Formalisms." Proceedings of NAACL, 2019.

[4] Xie, Zhipeng, and Shichao Sun. "A Goal-Driven Tree-Structured Neural Model for Math Word Problems." Proceedings of IJCAI. 2019.

 

更多阅读

#投 稿 通 道#

 让你的文字被更多人看到 

如何才能让更多的优质内容以更短路径到达读者群体，缩短读者寻找优质内容的成本呢？答案就是：你不认识的人。

总有一些你不认识的人，知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁，促使不同背景、不同方向的学者和学术灵感相互碰撞，迸发出更多的可能性。 

PaperWeekly 鼓励高校实验室或个人，在我们的平台上分享各类优质内容，可以是最新论文解读，也可以是学术热点剖析、科研心得或竞赛经验讲解等。我们的目的只有一个，让知识真正流动起来。

📝 稿件基本要求：

• 文章确系个人原创作品，未曾在公开渠道发表，如为其他平台已发表或待发表的文章，请明确标注 

• 稿件建议以 markdown 格式撰写，文中配图以附件形式发送，要求图片清晰，无版权问题

• PaperWeekly 尊重原作者署名权，并将为每篇被采纳的原创首发稿件，提供业内具有竞争力稿酬，具体依据文章阅读量和文章质量阶梯制结算

📬 投稿通道：

• 投稿邮箱：hr@paperweekly.site 

• 来稿请备注即时联系方式（微信），以便我们在稿件选用的第一时间联系作者

• 您也可以直接添加小编微信（pwbot02）快速投稿，备注：姓名-投稿

△长按添加PaperWeekly小编

🔍

现在，在「知乎」也能找到我们了

进入知乎首页搜索「PaperWeekly」

点击「关注」订阅我们的专栏吧

·