Towards Efficient Large-Scale Graph Neural Network Computing
深度学习最近已从低维的常规网络(例如图像、视频、语音)转向了高维的结构图数据(例如社交网络、大脑连接、知识图谱等)。这种变化导致了大量基于图形的不规则情况出现,并且有很多分散模型超出了深度学习框架,并且这些模型也不易修正。所以我们提出了NGra,这是首个针对图形的深度神经网络设计的平行处理框架。该模型不仅能让深度神经网络直观地表示出来,还能映射到高效的数据流表示上。NGra通过自动图形分割解决了模型的大规模调整问题。
地址:https://arxiv.org/abs/1810.08403
Sequence classification with human attention
学习注意力函数需要大量数据,但是很多NLP任务都在模拟人类行为。在这篇论文中,我们证明了人类的注意力的确在很多NLP注意力函数上有较好的归纳性偏向。我们利用从人眼追踪得来的人类注意力估计,对循环神经网络中的注意力函数进行调整,在很多任务上都有了进步。
地址:http://aclweb.org/anthology/K18-1030
Graph Convolutional Reinforcement Learning for Multi-Agent Cooperation
学习合作对多智能体强化学习来说十分重要,关键就是将其他智能体的动作考虑在内。但是,多智能体环境是不断变化的,学习抽象的表示非常困难。在这篇论文中,我们提出了一种图形卷积模型,它可以根据多智能体环境进行调整,抽象关系表示可以捕捉到智能体之间的关系。
地址:https://arxiv.org/abs/1810.09202