我们介绍了概率世界构建模型(PWM),这是一个新的完全符号化的语义解析和推理的贝叶斯模型,作为向更通用的领域和任务 NLU 和 AI 的研究计划的第一步。人类为他们的观察建立了内部心理模型,这大大有助于他们理解和推理各种问题的能力。在PWM中,句子的含义、获得的关于世界的知识以及推理的中间证明步骤都用统一的人类可读的形式语言来表达,其设计目标是可解释性。PWM是贝叶斯式的,专门设计为能够推广到新的领域和任务。我们推导并实现了一种推理算法,该算法通过解析和产生对其潜伏世界模型的更新来读取句子,从而捕获这些句子的语义。我们表明,PWL能够利用获得的知识来解决解析过程中的歧义,如介词短语的连接、主语的解决和词汇的歧义,并且能够理解具有更复杂语义的句子,如新概念的定义。此外,我们在两个域外问题回答数据集上评估了PWL:(1)ProofWriter和(2)我们称之为FictionalGeoQA的新数据集,该数据集被设计为更能代表真实语言,但仍然足够简单,以专注于评估推理能力,同时对启发式方法具有鲁棒性。我们的方法在这两方面的表现都优于基线,从而证明了其作为概念验证的价值。

成为VIP会员查看完整内容
18

相关内容

《实现稳健和弹性机器学习》243页CMU博士论文
专知会员服务
22+阅读 · 5月12日
专知会员服务
46+阅读 · 2021年6月14日
【CMU博士论文】可控文本生成,附107页pdf与Slides
专知会员服务
43+阅读 · 2021年4月21日
专知会员服务
46+阅读 · 2020年12月20日
最新《知识驱动的文本生成》综述论文,44页pdf
专知会员服务
61+阅读 · 2020年10月13日
论文浅尝 | 基于时序知识图谱的问答
开放知识图谱
2+阅读 · 2021年12月1日
论文浅尝 | 将结构预测作为增广自然语言间的翻译任务
论文浅尝 | XQA:一个跨语言开放域问答数据集
开放知识图谱
24+阅读 · 2019年9月11日
自然语言处理常识推理综述论文,60页pdf
专知
58+阅读 · 2019年4月4日
论文浅尝 | 基于知识库的自然语言理解 01#
开放知识图谱
14+阅读 · 2019年2月22日
论文浅尝 | 利用 RNN 和 CNN 构建基于 FreeBase 的问答系统
开放知识图谱
11+阅读 · 2018年4月25日
【知识图谱】 一个有效的知识图谱是如何构建的?
产业智能官
51+阅读 · 2018年4月5日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
6+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
0+阅读 · 9月27日
Arxiv
0+阅读 · 9月27日
Arxiv
12+阅读 · 2019年9月11日
Arxiv
20+阅读 · 2019年8月21日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
6+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
微信扫码咨询专知VIP会员