题目: Embedding Symbolic Knowledge into Deep Networks

摘要:

在这项工作中,我们的目标是利用先前的符号知识来提高深层模型的性能。提出了一种利用增广图卷积网络(GCN)将命题公式(和赋值)投影到流形上的图嵌入网络。为了生成语义上可靠的嵌入,我们开发了识别节点异构性的技术和将结构约束合并到嵌入中的语义正则化。实验结果表明,该方法提高了训练后的模型的性能,使其能更好地进行蕴涵检测和视觉关联预测。有趣的是,我们观察到命题理论表达的可追踪性和嵌入的容易程度之间的联系。对这一联系的进一步探索可以阐明知识编辑与向量表示学习之间的关系。

作者:

Ziwei Xu是新加坡国立大学博士研究生。之前是中国科学技术大学的一名本科生,对计算机视觉感兴趣,尤其对搭建自然语言、人类知识和视觉世界之间的桥梁感兴趣。

成为VIP会员查看完整内容
32

相关内容

图卷积网络(简称GCN),由Thomas Kpif于2017年在论文Semi-supervised classification with graph convolutional networks中提出。它为图(graph)结构数据的处理提供了一个崭新的思路,将深度学习中常用于图像的卷积神经网络应用到图数据上。

知识荟萃

精品入门和进阶教程、论文和代码整理等

更多

查看相关VIP内容、论文、资讯等
图卷积神经网络蒸馏知识,Distillating Knowledge from GCN
专知会员服务
94+阅读 · 2020年3月25日
17篇必看[知识图谱Knowledge Graphs] 论文@AAAI2020
基于图卷积文本模型的跨模态信息检索
专知
9+阅读 · 2019年8月3日
论文浅尝 | DKN: 面向新闻推荐的深度知识感知网络
开放知识图谱
21+阅读 · 2019年5月1日
图嵌入(Graph embedding)综述
人工智能前沿讲习班
449+阅读 · 2019年4月30日
近期知识图谱顶会论文推荐,你都读过哪几篇?
PaperWeekly
9+阅读 · 2018年12月12日
已删除
Arxiv
32+阅读 · 2020年3月23日
Efficiently Embedding Dynamic Knowledge Graphs
Arxiv
14+阅读 · 2019年10月15日
Arxiv
20+阅读 · 2019年9月7日
VIP会员
相关VIP内容
图卷积神经网络蒸馏知识,Distillating Knowledge from GCN
专知会员服务
94+阅读 · 2020年3月25日
微信扫码咨询专知VIP会员