【图网络】斯坦福教授ICLR演讲:图网络最新进展GraphRNN和GCPN

2019 年 6 月 14 日 产业智能官




  新智元报道  

编辑:肖琴

【新智元导读】图网络领域的大牛、斯坦福大学Jure Leskovec教授在ICLR 2019就图深度生成模型做了演讲,阐述了图生成模型的方法和应用,并详细介绍了他的最新成果


斯坦福大学教授 Jure Leskovec 是图网络领域的专家,图表示学习方法 node2vec 和 GraphSAGE 作者之一。


Jure Leskovec


在今年 ICLR,Jure Leskovec 教授及斯坦福、MIT 的多名研究者发表论文 How Powerful Are Graph Neural Networks?(https://cs.stanford.edu/people/jure/pubs/gin-iclr19.pdf),详细阐述了图神经网络背后的原理和其强大的表征能力,认为图神经网络在因果推理方面有巨大的潜力,有望成为 AI 的下一个拐点。


参考阅读:

图神经网络将成 AI 下一拐点!MIT 斯坦福一文综述 GNN 到底有多强


此外,在 ICLR 受邀演讲上,Jure Leskovec 教授还就图深度生成模型做了演讲。在这次演讲中,Jure 阐述了图生成模型的方法和应用,并详细介绍了他的最新成果,GraphRNN 和 Graph Convolutional Policy Network。


本文带来该演讲的 PPT。



下载链接 (或点击阅读原文下载):

http://i.stanford.edu/~jure/pub/talks2/graph_gen-iclr-may19-long.pdf


主要内容:

  • 为什么图网络很重要?

  • 图生成任务

  • GraphRNN:RNN 的两个层次

  • 图卷积策略网络:将图表示和强化学习结合起来


为什么图网络很重要?


为什么图网络很重要?

  • 深入了解图的形成过程

  • 异常检测 - 异常行为,进化

  • 预测 —— 根据过去预测未来

  • 新的图结构的模拟

  • 图补全 - 很多图都是部分可观察的

  • “如果” 场景


图生成任务


任务 1:生成逼真的图

  • 生成与给定数据集相似的图


任务 2:目标导向的图生成

  • 生成优化给定目标 / 约束的图

  • 药物分子生成 / 优化


关键的见解

通过顺序添加节点 / 边来生成图


好处:

  • 表示具有不同大小、不同序列长度的图

  • 将不同的节点顺序对应于不同的生成轨迹

  • 捕获节点之间的复杂依赖关系

GraphRNN:RNN 的两个层次


GraphRNN:RNN 的两个层次

目标:将模型图生成作为序列生成

需要对两个流程建模:

  • 为新节点生成状态 (节 Node-level RNN)

  • 根据新节点的状态生成新节点的边 (Edge-level RNN)



图卷积策略网络

图卷积策略网络:目标导向的图生成 (GCPN)

将图表示 + RL 结合起来

  • 图表示 (Graph representation) 捕获复杂的结构信息,并在每个状态转换中启用有效性检查 (Valid)

  • 强化学习 (RL) 优化中间 / 最终奖励 (High scores)

  • 对抗性训练 (Adversarial training) 模仿给定数据集中的例子 (Realistic)

总结

  • 通过序列生成,可以成功生成复杂的图


  • 每一步决策都是基于隐藏状态做出的

显式:中间生成图,用 GCN 解码

隐式:向量表示,RNN 解码


  • 任务:

模仿一组给定的图

按照既定目标优化图


先进制造业+工业互联网




产业智能官  AI-CPS


加入知识星球“产业智能研究院”:先进制造业OT(自动化+机器人+工艺+精益)技术和工业互联网IT技术(云计算+大数据+物联网+区块链+人工智能)深度融合,在场景中构建“状态感知-实时分析-自主决策-精准执行-学习提升”的机器智能、认知计算系统;实现产业转型升级、DT驱动业务、价值创新创造的产业互联生态链。


云计算+大数据+物联网+区块链+人工智能等工业互联网IT技术分支用来的今天,制造业者必须了解如何将“技术”全面渗入整个公司、产品、业务等商业场景中,利用工业互联网形成数字化、网络化和智能化力量,实现行业的重新布局、企业的重新构建和焕然新生。

工业互联网作为新一轮产业变革的核心驱动力,将进一步释放历次科技革命和产业变革积蓄的巨大能量,并创造新的强大引擎。重构生产、分配、交换、消费等经济活动各环节,形成从宏观到微观各领域的智能化新需求,催生新技术、新产品、新产业、新业态、新模式。引发经济结构重大变革,深刻改变人类生产生活方式和思维模式,实现社会生产力的整体跃升。


版权声明产业智能官(ID:AI-CPS推荐的文章,除非确实无法确认,我们都会注明作者和来源,涉权烦请联系协商解决,联系、投稿邮箱:erp_vip@hotmail.com。




登录查看更多
17

相关内容

【阿尔托大学】图神经网络,Graph Neural Networks,附60页ppt
专知会员服务
182+阅读 · 2020年4月26日
【MIT深度学习课程】深度序列建模,Deep Sequence Modeling
专知会员服务
78+阅读 · 2020年2月3日
BERT进展2019四篇必读论文
专知会员服务
68+阅读 · 2020年1月2日
【NeurIPS2019】图变换网络:Graph Transformer Network
专知会员服务
111+阅读 · 2019年11月25日
【斯坦福&Google】面向机器人的机器学习,63页PPT
专知会员服务
26+阅读 · 2019年11月19日
一文读懂图卷积GCN
计算机视觉life
21+阅读 · 2019年12月21日
GraphSAGE: GCN落地必读论文
AI100
29+阅读 · 2019年8月15日
卷积网络循环网络结合-CNN+RNN
数据挖掘入门与实战
7+阅读 · 2018年2月11日
Arxiv
35+阅读 · 2020年1月2日
Heterogeneous Deep Graph Infomax
Arxiv
12+阅读 · 2019年11月19日
Arxiv
6+阅读 · 2019年9月25日
Signed Graph Attention Networks
Arxiv
7+阅读 · 2019年9月5日
A Comprehensive Survey on Graph Neural Networks
Arxiv
21+阅读 · 2019年1月3日
Deep Graph Infomax
Arxiv
17+阅读 · 2018年12月21日
Arxiv
8+阅读 · 2018年3月17日
Arxiv
6+阅读 · 2018年2月24日
Arxiv
10+阅读 · 2018年2月4日
VIP会员
相关VIP内容
【阿尔托大学】图神经网络,Graph Neural Networks,附60页ppt
专知会员服务
182+阅读 · 2020年4月26日
【MIT深度学习课程】深度序列建模,Deep Sequence Modeling
专知会员服务
78+阅读 · 2020年2月3日
BERT进展2019四篇必读论文
专知会员服务
68+阅读 · 2020年1月2日
【NeurIPS2019】图变换网络:Graph Transformer Network
专知会员服务
111+阅读 · 2019年11月25日
【斯坦福&Google】面向机器人的机器学习,63页PPT
专知会员服务
26+阅读 · 2019年11月19日
相关论文
Arxiv
35+阅读 · 2020年1月2日
Heterogeneous Deep Graph Infomax
Arxiv
12+阅读 · 2019年11月19日
Arxiv
6+阅读 · 2019年9月25日
Signed Graph Attention Networks
Arxiv
7+阅读 · 2019年9月5日
A Comprehensive Survey on Graph Neural Networks
Arxiv
21+阅读 · 2019年1月3日
Deep Graph Infomax
Arxiv
17+阅读 · 2018年12月21日
Arxiv
8+阅读 · 2018年3月17日
Arxiv
6+阅读 · 2018年2月24日
Arxiv
10+阅读 · 2018年2月4日
Top
微信扫码咨询专知VIP会员