零样本学习依赖语义类表示,如属性或预训练的嵌入来预测类,而不需要任何标记示例。我们提出从常识知识图谱学习类表示。常识知识图谱是显性高级知识,它只需要很少的人力投入就可以应用到一系列任务中。为了捕获图中的知识,我们引入了ZSL-KG,这是一个基于图神经网络的框架,带有非线性聚合器来生成类表示。尽管之前大多数关于图神经网络的工作都是使用线性函数来聚合邻近节点的信息,但我们发现,非线性聚合器(如LSTMs或transformer)可以显著改善零目标任务。在跨三个数据集的两个自然语言任务中,ZSL-KG显示出与最先进的方法相比平均提高9.2点的准确性。此外,在对象分类任务上,ZSL-KG与不需要手工设计类表示的最佳方法相比,精度点提高了2.2。最后,我们发现ZSL-KG在这四个数据集上的平均准确率比使用线性聚合器的最佳图神经网络高出3.8点。
https://arxiv.org/abs/2006.10713
专知便捷查看
便捷下载,请关注专知公众号(点击上方蓝色专知关注)
后台回复“ZSLKG” 可以获取《常识知识图谱的零样本学习,布朗大学》专知下载链接索引