CS224W-6-message passing and node classification 第3部分

2020 年 3 月 6 日 图与推荐

最后介绍目前最先进的方法:



信仰传播。。。。?



循环信仰传播,Belief Propagation是一种动态编程方法,用于在图模型中解决条件概率查询的问题(没看明白)

迭代过程中,相邻的节点的变量相互“交谈”,传递消息。(wtf)

当达成共识时,计算出最终的信念。(wtf?)

(这里的意思是,还是使用了近似推断的方法,就是通过不停的迭代,当最终的结果进入稳态之后认为任务目标达成,训练结束,得到最终的结果)



任务:计算图中的节点数*

条件:每个节点只能与其邻居进行交互(传递消息)





这个问题貌似看起来挺弱智,但是实际上是这样得,首先,注意途中得一个there's 1 of me的节点,假设我们目前处于这个节点之上,并且我们只能和前后的邻节点传递信息,



这个时候,我们需要双向,前后两个节点提供position的信息,然后,如上图所示,我们才能计算出整个连接的长度,否则仅仅凭借单向的信息是无法计算的。



接下来来看一种更加复杂的情况:



这里通过这些事例主要是想说明 belief propagation是如何传播的。




然而,普通的 belief propagation 无法处理存在cyclic(循环)的情况,这也很好理解,比如上图我们在两个节点之间又加入一条连线,这个时候就没法计算全部节点的数量了。

这个时候就要用到“loopy belief propagation”




关于loopy bp algorithm,一方面比较复杂。。。一方面不太需要。。。我本来是想看node2vec和gnn的。。结果顺序搞错了看了这一章节,后续写完了第七、第八课的介绍再会回过头来写这个吧。


登录查看更多
0

相关内容

节点分类任务是一种算法,其必须通过查看其邻居的标签来确定样本(表示为节点)的标签。
【新书】图神经网络导论,清华大学刘知远老师著作
专知会员服务
360+阅读 · 2020年6月12日
图机器学习 2.2-2.4 Properties of Networks, Random Graph
图与推荐
10+阅读 · 2020年3月28日
面试题:Word2Vec中为什么使用负采样?
七月在线实验室
46+阅读 · 2019年5月16日
从零开始一起学习SLAM | 掌握g2o边的代码套路
计算机视觉life
5+阅读 · 2019年3月6日
递归神经网络
Datartisan数据工匠
4+阅读 · 2018年8月2日
一文详解循环神经网络的基本概念(代码版)
人工智能头条
5+阅读 · 2018年4月28日
Simple Recurrent Unit For Sentence Classification
哈工大SCIR
6+阅读 · 2017年11月29日
课程 | Andrew Ng 深度学习课程笔记3
黑龙江大学自然语言处理实验室
3+阅读 · 2017年9月15日
【深度学习基础】4. Recurrent Neural Networks
微信AI
16+阅读 · 2017年7月19日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
Neural Module Networks for Reasoning over Text
Arxiv
9+阅读 · 2019年12月10日
Arxiv
17+阅读 · 2019年3月28日
Arxiv
31+阅读 · 2018年11月13日
Arxiv
19+阅读 · 2018年6月27日
VIP会员
相关VIP内容
【新书】图神经网络导论,清华大学刘知远老师著作
专知会员服务
360+阅读 · 2020年6月12日
相关资讯
图机器学习 2.2-2.4 Properties of Networks, Random Graph
图与推荐
10+阅读 · 2020年3月28日
面试题:Word2Vec中为什么使用负采样?
七月在线实验室
46+阅读 · 2019年5月16日
从零开始一起学习SLAM | 掌握g2o边的代码套路
计算机视觉life
5+阅读 · 2019年3月6日
递归神经网络
Datartisan数据工匠
4+阅读 · 2018年8月2日
一文详解循环神经网络的基本概念(代码版)
人工智能头条
5+阅读 · 2018年4月28日
Simple Recurrent Unit For Sentence Classification
哈工大SCIR
6+阅读 · 2017年11月29日
课程 | Andrew Ng 深度学习课程笔记3
黑龙江大学自然语言处理实验室
3+阅读 · 2017年9月15日
【深度学习基础】4. Recurrent Neural Networks
微信AI
16+阅读 · 2017年7月19日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
Top
微信扫码咨询专知VIP会员