Despite the recent success of reconciling spike-based coding with the error backpropagation algorithm, spiking neural networks are still mostly applied to tasks stemming from sensory processing, operating on traditional data structures like visual or auditory data. A rich data representation that finds wide application in industry and research is the so-called knowledge graph - a graph-based structure where entities are depicted as nodes and relations between them as edges. Complex systems like molecules, social networks and industrial factory systems can be described using the common language of knowledge graphs, allowing the usage of graph embedding algorithms to make context-aware predictions in these information-packed environments. We propose a spike-based algorithm where nodes in a graph are represented by single spike times of neuron populations and relations as spike time differences between populations. Learning such spike-based embeddings only requires knowledge about spike times and spike time differences, compatible with recently proposed frameworks for training spiking neural networks. The presented model is easily mapped to current neuromorphic hardware systems and thereby moves inference on knowledge graphs into a domain where these architectures thrive, unlocking a promising industrial application area for this technology.


翻译:尽管最近成功地调和了基于钉子的编码和错误的回馈法算法,但神经网络的跳动仍主要应用于感官处理所产生的任务,以视觉或听觉数据等传统数据结构运作。在工业和研究中广泛应用的丰富数据代表是所谓的知识图表,即基于图形的结构,将各实体描述为节点和它们之间的边缘关系。分子、社交网络和工业工厂系统等复杂系统可以用共同的知识图表语言描述,允许使用图形嵌入算法对这些信息包装环境中的环境进行环境觉悟预测。我们提出了一种基于钉子的算法,其中,一个图表中的节点代表神经种群的单倍激增和人口间时间差异的关系。学习这种基于钉子的嵌入只需了解峰值和峰值时间差异,并与最近提出的培训神经形态硬件系统框架相兼容。所提出的模型很容易被映射为当前的神经形态硬件系统,从而将知识图表的推导引力移入到这些结构繁荣的域域域,从而打开了这一技术有希望的工业应用区域。

0
下载
关闭预览

相关内容

近期必读的五篇KDD 2020【推荐系统 (RS) 】相关论文
专知会员服务
64+阅读 · 2020年8月11日
一份简单《图神经网络》教程,28页ppt
专知会员服务
123+阅读 · 2020年8月2日
必读的7篇 IJCAI 2019【图神经网络(GNN)】相关论文
专知会员服务
91+阅读 · 2020年1月10日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
39+阅读 · 2019年10月9日
最新BERT相关论文清单,BERT-related Papers
专知会员服务
52+阅读 · 2019年9月29日
AAAI2020 图相关论文集
图与推荐
10+阅读 · 2020年7月15日
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
论文浅尝 |「知识表示学习」专题论文推荐
开放知识图谱
13+阅读 · 2018年2月12日
「知识表示学习」专题论文推荐 | 每周论文清单
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Pointer Graph Networks
Arxiv
7+阅读 · 2020年6月11日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
Arxiv
15+阅读 · 2019年9月11日
Arxiv
7+阅读 · 2018年8月21日
Arxiv
4+阅读 · 2017年10月30日
VIP会员
相关论文
Pointer Graph Networks
Arxiv
7+阅读 · 2020年6月11日
Domain Representation for Knowledge Graph Embedding
Arxiv
14+阅读 · 2019年9月11日
Arxiv
15+阅读 · 2019年9月11日
Arxiv
7+阅读 · 2018年8月21日
Arxiv
4+阅读 · 2017年10月30日
Top
微信扫码咨询专知VIP会员