【CMU博士论文】《利用概率世界构建实现通用自然语言理解》

我们介绍了概率世界构建模型（PWM），这是一个新的完全符号化的语义解析和推理的贝叶斯模型，作为向更通用的领域和任务 NLU 和 AI 的研究计划的第一步。人类为他们的观察建立了内部心理模型，这大大有助于他们理解和推理各种问题的能力。在PWM中，句子的含义、获得的关于世界的知识以及推理的中间证明步骤都用统一的人类可读的形式语言来表达，其设计目标是可解释性。PWM是贝叶斯式的，专门设计为能够推广到新的领域和任务。我们推导并实现了一种推理算法，该算法通过解析和产生对其潜伏世界模型的更新来读取句子，从而捕获这些句子的语义。我们表明，PWL能够利用获得的知识来解决解析过程中的歧义，如介词短语的连接、主语的解决和词汇的歧义，并且能够理解具有更复杂语义的句子，如新概念的定义。此外，我们在两个域外问题回答数据集上评估了PWL：(1)ProofWriter和(2)我们称之为FictionalGeoQA的新数据集，该数据集被设计为更能代表真实语言，但仍然足够简单，以专注于评估推理能力，同时对启发式方法具有鲁棒性。我们的方法在这两方面的表现都优于基线，从而证明了其作为概念验证的价值。