知识图谱(KG)是一种灵活的结构,能够描述数据实体之间的复杂关系。目前,大多数KG嵌入模型都是基于负采样进行训练的,即模型的目标是最大限度地增加KG内被连接实体的某些相似度,同时最小化被采样的断开实体的相似度。负抽样通过只考虑负实例的子集,降低了模型学习的时间复杂度,这可能会由于抽样过程的不确定性而无法提供稳定的模型性能。为了避免这一缺陷,我们提出了一种新的KG嵌入高效非采样知识图谱嵌入框架(NS-KGE)。其基本思想是在模型学习中考虑KG中的所有负面实例,从而避免负面抽样。框架可应用于基于平方损失的知识图谱嵌入模型或其损失可转换为平方损失的模型。这种非抽样策略的一个自然副作用是增加了模型学习的计算复杂度。为了解决这一问题,我们利用数学推导来降低非采样损失函数的复杂度,最终为我们提供了比现有模型更好的KG嵌入效率和精度。在基准数据集上的实验表明,NS-KGE框架在效率和准确率方面均优于传统的基于负采样的模型,该框架适用于大规模知识图谱嵌入模型。
https://www.zhuanzhi.ai/paper/a63903c464665db631cd3167d395a238
专知便捷查看
便捷下载,请关注专知公众号(点击上方蓝色专知关注)
后台回复“NSKGE” 就可以获取《【WWW2021】高效的非抽样知识图谱嵌入》专知下载链接