GCN如何并行化?分布式图卷积神经网路,13页pdf

2020 年 7 月 20 日 专知


这项工作的目标是研发一个训练图卷积网络(GCNs)的完全分布式算法框架。该方法能够利用输入数据的有意义的关系结构,这些数据是由一组代理收集的,这些代理通过稀疏网络拓扑进行通信。在阐述了集中的GCN训练问题之后,我们首先展示如何在底层数据图在不同代理之间分割的分布式场景中进行推理。然后,我们提出了一个分布式梯度下降方法来解决GCN训练问题。得到的模型沿着三条线分布计算:推理、反向传播和优化。在温和的条件下,也建立了GCN训练问题对平稳解的收敛性。最后,我们提出了一个优化准则来设计代理之间的通信拓扑,以匹配描述数据关系的图。大量的数值结果验证了我们的想法。据我们所知,这是第一个将图卷积神经网络与分布式优化相结合的工作。

https://www.zhuanzhi.ai/paper/8a4718497597c36257418a3dd85639f4

专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“DGCN” 可以获取《GCN如何并行化?分布式图卷积神经网路,13页pdf》专知下载链接索引

专知,专业可信的人工智能知识分发,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取5000+AI主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“阅读原文”,了解使用专知,查看获取5000+AI主题知识资源
登录查看更多
2

相关内容

最新【图神经网络计算】2020综述论文,23页PDF
专知会员服务
192+阅读 · 2020年10月3日
专知会员服务
132+阅读 · 2020年8月24日
系列教程GNN-algorithms之六:《多核卷积拓扑图—TAGCN》
专知会员服务
47+阅读 · 2020年8月8日
最新《图神经网络模型与应用》综述论文
专知会员服务
292+阅读 · 2020年8月2日
最新《动态网络嵌入》综述论文,25页pdf
专知会员服务
133+阅读 · 2020年6月17日
【ICLR2020】图神经网络与图像处理,微分方程,27页ppt
专知会员服务
47+阅读 · 2020年6月6日
《强化学习—使用 Open AI、TensorFlow和Keras实现》174页pdf
专知会员服务
136+阅读 · 2020年3月1日
最新《图嵌入组合优化》综述论文,40页pdf
【KDD2020】图神经网络生成式预训练
专知
20+阅读 · 2020年7月3日
最新《动态网络嵌入》综述论文,25页pdf
专知
32+阅读 · 2020年6月17日
Learning Dynamic Routing for Semantic Segmentation
Arxiv
8+阅读 · 2020年3月23日
Arxiv
99+阅读 · 2020年3月4日
A Modern Introduction to Online Learning
Arxiv
19+阅读 · 2019年12月31日
Arxiv
3+阅读 · 2018年2月11日
VIP会员
相关VIP内容
最新【图神经网络计算】2020综述论文,23页PDF
专知会员服务
192+阅读 · 2020年10月3日
专知会员服务
132+阅读 · 2020年8月24日
系列教程GNN-algorithms之六:《多核卷积拓扑图—TAGCN》
专知会员服务
47+阅读 · 2020年8月8日
最新《图神经网络模型与应用》综述论文
专知会员服务
292+阅读 · 2020年8月2日
最新《动态网络嵌入》综述论文,25页pdf
专知会员服务
133+阅读 · 2020年6月17日
【ICLR2020】图神经网络与图像处理,微分方程,27页ppt
专知会员服务
47+阅读 · 2020年6月6日
《强化学习—使用 Open AI、TensorFlow和Keras实现》174页pdf
专知会员服务
136+阅读 · 2020年3月1日
Top
微信扫码咨询专知VIP会员