在《元素认知》(Elemental Cognition, EC)中,我们正在构建能够阅读、推理和理解文本的AI系统,通过构建能够捕捉文本潜在含义的逻辑和因果模型。一个基本的挑战是,AI系统通常缺乏构建丰富文本解释模型所需的常识性背景知识。要解决这一问题,需要解决两个问题: 首先,我们需要获得经常隐含的、高度多样化的常识性知识; 其次,我们需要开发有效的技术,将这些知识整合到人工智能推理系统中。在EC,我们已经开发了这两个问题的解决方案——我们创建了GLUCOSE,这是一个高质量的半结构化常识知识图谱,包含约600K的因果规则,是众包的(使用Amazon Mechanical Turk),然后,我们使用GLUCOSE知识作为种子数据来微调大型的预训练过的语言模型,以构建“动态规则生成器”,并将其插入我们的神经符号推理机Braid中。在这次演讲中,我将描述我们如何构建和使用GLUCOSE来解决一个进行语言理解的AI推理系统的知识获取瓶颈。

https://web.stanford.edu/class/cs520/abstracts/kalyanpur.html

成为VIP会员查看完整内容
79

相关内容

【NAACL2021】Graph4NLP:图深度学习自然语言处理,附239页ppt
专知会员服务
105+阅读 · 2021年6月12日
知识增强的文本生成研究进展
专知会员服务
98+阅读 · 2021年3月6日
【AAAI2021】以事件为中心的自然语言理解,256页ppt
专知会员服务
73+阅读 · 2021年2月8日
专知会员服务
35+阅读 · 2020年11月29日
【NLPCC2020-微软】自然语言处理机器推理,124页ppt
专知会员服务
45+阅读 · 2020年10月20日
NLPCC 2020《预训练语言模型回顾》讲义下载,156页PPT
专知会员服务
47+阅读 · 2020年10月17日
对话黄学东:语音语言技术是镶在 AI 皇冠上的明珠
微软研究院AI头条
7+阅读 · 2019年5月17日
一文看懂自然语言理解(NLU)
AINLP
26+阅读 · 2019年4月27日
自然语言处理常识推理综述论文,60页pdf
专知
73+阅读 · 2019年4月4日
论文浅尝 | 基于知识库的自然语言理解 04#
开放知识图谱
14+阅读 · 2019年3月14日
论文浅尝 | 基于知识库的自然语言理解 03#
开放知识图谱
14+阅读 · 2019年2月26日
论文浅尝 | 基于知识库的自然语言理解 01#
开放知识图谱
15+阅读 · 2019年2月22日
谷歌发布问答系统新语料,同时发布相关挑战赛
【NLP】周明:自然语言对话引擎
产业智能官
6+阅读 · 2017年10月19日
自然语言理解-从规则到深度学习
云栖社区
8+阅读 · 2017年8月22日
语料库构建——自然语言理解的基础
计算机研究与发展
11+阅读 · 2017年8月21日
Arxiv
0+阅读 · 2021年9月3日
Coarse-To-Fine And Cross-Lingual ASR Transfer
Arxiv
0+阅读 · 2021年9月2日
Arxiv
9+阅读 · 2021年3月8日
Arxiv
8+阅读 · 2021年3月2日
Arxiv
12+阅读 · 2019年2月28日
VIP会员
相关VIP内容
【NAACL2021】Graph4NLP:图深度学习自然语言处理,附239页ppt
专知会员服务
105+阅读 · 2021年6月12日
知识增强的文本生成研究进展
专知会员服务
98+阅读 · 2021年3月6日
【AAAI2021】以事件为中心的自然语言理解,256页ppt
专知会员服务
73+阅读 · 2021年2月8日
专知会员服务
35+阅读 · 2020年11月29日
【NLPCC2020-微软】自然语言处理机器推理,124页ppt
专知会员服务
45+阅读 · 2020年10月20日
NLPCC 2020《预训练语言模型回顾》讲义下载,156页PPT
专知会员服务
47+阅读 · 2020年10月17日
相关资讯
对话黄学东:语音语言技术是镶在 AI 皇冠上的明珠
微软研究院AI头条
7+阅读 · 2019年5月17日
一文看懂自然语言理解(NLU)
AINLP
26+阅读 · 2019年4月27日
自然语言处理常识推理综述论文,60页pdf
专知
73+阅读 · 2019年4月4日
论文浅尝 | 基于知识库的自然语言理解 04#
开放知识图谱
14+阅读 · 2019年3月14日
论文浅尝 | 基于知识库的自然语言理解 03#
开放知识图谱
14+阅读 · 2019年2月26日
论文浅尝 | 基于知识库的自然语言理解 01#
开放知识图谱
15+阅读 · 2019年2月22日
谷歌发布问答系统新语料,同时发布相关挑战赛
【NLP】周明:自然语言对话引擎
产业智能官
6+阅读 · 2017年10月19日
自然语言理解-从规则到深度学习
云栖社区
8+阅读 · 2017年8月22日
语料库构建——自然语言理解的基础
计算机研究与发展
11+阅读 · 2017年8月21日
相关论文
微信扫码咨询专知VIP会员