SFFAI 27 报名通知 | 图神经网络

2019 年 5 月 7 日 人工智能前沿讲习班

关注文章公众号

回复"SFFAI27论文"获取本主题精选论文


SFFAI报名通知


论坛主题

图神经网络


召集人

朱时超,中国科学院信息工程研究所在读博士,本科毕业于哈尔滨工业大学,目前研究兴趣为图神经网络、异质图表示学习等。


论坛讲者

纪厚业,北京邮电大学计算机科学与技术专业博士研究生。研究兴趣包括异质图分析,网络表示学习,图神经网络等。


题目:Heterogeneous Graph Attention Network

摘要:图神经网络是近年来图数据挖掘领域的热门研究方向之一,被誉为是新一代深度学习。图神经网络可以将端到端学习与归纳推理相结合,有望解决深度学习无法进行关系推理的问题。以Graph Convolutional Network,Graph Attention Network为代表的图神经网络已经引起了学术界与工业界的广泛关注。然而,目前的图神经网络主要针对同质图(节点类型和边类型单一)设计,但真实世界中的图大部分都可以被自然地建模为异质图(多种类型的节点和边)。如何设计可以处理真实世界图数据的异质图神经网络是一个迫切需要解决的问题。

本次分享将介绍我们在异质图神经网络上的最新工作,这是第一篇基于注意力机制的异质图神经网络的工作。本文围绕异质图数据中一些基础性结构(多种类型的节点/边和元路径结构),分别设计了节点级别注意力和语义级别注意力来实现对节点全面且细致的表示。相对于现有的工作,我们的模型可以处理更加复杂的结构和语义信息也具有更强的现实意义。

Spotlight:

  1. Node-Level Attention可以学习元路径邻居的重要性并通过聚合操作得到节点表示;

  2. Semantic-Level Attention 可以针对不同任务来学习语义信息的重要性并对语义进行融合。


高君宇,中国科学院自动化研究所博士生,导师为徐常胜研究员。研究方向为基于深度学习的视频理解与应用。在IEEE Transaction on Image Processing(TIP)、CVPR、AAAI、ACM MM等CCF推荐的A类期刊、会议中发表多篇一作论文。获得了国家奖学金、中国科学院大学三好学生、三好学生标兵、百度奖学金、必和必拓奖学金、Rokid奖学金等。


题目:I Know the Relationships: Zero-Shot Action Recognition via Two-Stream Graph Convolutional Networks and Knowledge Graphs

摘要:随着社交网络与在线视频平台的兴起,网络上每天都在涌现大量的视频,伴随着这些视频而来的是与日俱增的行为类别。虽然有监督的行为分类方法取得了显著的进展和很好的效果,但是这些方法依赖于大量的标注样本,而标注这些数据是极为耗时耗力的。因此,零样本视频分类的方法应运而生。目前,通过自动挖掘潜在概念(如行为、属性等)进行零样本视频分类的方法获得了极大的成功。但是,大多数现有方法只利用了视频的视觉信息而忽视了对这些概念之间的显式关系建模。因此,我们提出了一个基于知识图谱的端到端零样本行为识别框架,其可以联合建模行为-属性、属性-属性、行为-行为之间的关系。具体的,我们设计了一个双支图卷积神经网络,其包括一个分类器支和一个实例支。分类器支输入所有概念的词向量并产生对应概念的分类器。实例支将属性的词向量和和每个视频实例的属性得分映射到一个特征空间中。最后,学习到的分类器在产生的属性特征上进行评估,并通过一个分类损失进行端到端地整体优化。为了考虑视频的时序建模,我们还引入了一个自注意力模型来有效利用视频的时序信息。实验结果表明提出方法具有很好的效果。

Spotlight:

  1. 基于双支图神经网络的视频零样本识别方法;

  2. 结合知识图谱与图神经网络,对概念间关系进行高效建模。



论文共读


最近,图神经网络广泛受到了各界的关注,基于图神经网络的模型和应用在异质图表示学习和零样本学习任务中取得了不错的效果。今天,两位主讲嘉宾为大家精选了图神经网络方法中的几个代表性模型以及零样本学习模型,和大家一起学习分享最新的研究进展。

你可以认真阅读,来现场和讲者面对面交流哦。


1


推荐理由:图神经网络领域最经典的论文之一,也是Graph Convolutional Network的代表。本文对谱域的图卷积进行了分析,并对傅里叶变换后的频域图卷积进行了一阶近似。通过一个简单高效的传播模型在节点分类任务上取得最优效果。

推荐理由来自:纪厚业


2

推荐理由:在实际图数据中,两个节点建立连接的原因不同,连接强度也各不相同。本文所提出的Graph Attention Network将注意力机制引入到图神经网络中来学习节点邻居的重要性。GAT可以更好的处理桥节点和噪音邻居具有更好的鲁棒性。同时,通过对注意力权重进行分析,GAT具有更好的可解释性。

推荐理由来自:纪厚业


3


推荐理由:本文对Graph Convolutional Network进行了理论分析,证明了Graph Convolutional Network本质是一种Laplacian smoothing。多层GCN效果下降的原因是over-smoothing。最后本文提出了co-training和self-training来克服GCN的局限并通过实验验证了其效果。

推荐理由来自:纪厚业


4


推荐理由:对Graph Convolutional Network的局限性进行了分析。本文首先分析了PageRank和Graph Convolutional Network之间的联系与区别,并利用Personalized PageRank的角度来解决Graph Convolutional Network中存在的问题。本文提出的算法在经过多层传播后依然不会出现过平滑问题,并随着层数的增加,模型效果有了一定的提升。

推荐理由来自:纪厚业


5


推荐理由:结合知识图谱与图神经网络进行零样本图片分类的开创之作,发表在CVPR2018。本文通过知识图谱信息将物体类别构造成图,每个节点输入对应类别的词向量信息,输出该类别对应的分类器参数。通过使用已知类别预训练好的分类器进行二次回归优化,从而把分类器学习泛化到未知类上。

推荐理由来自:高君宇


6


推荐理由: 上一篇文章的改进版,被CVPR2019接收。主要改进有如下几个方面:

1. 将局部信息传播改为密集信息传播(Dense Graph Propagation, DGP),减少了GCN 的层数;

2. 根据连接边的远近引入attention机制进行加权计算;

3. 根据graph信息进行微调。

推荐理由来自:高君宇


7

推荐理由:使用知识图谱与图神经网络进行多标签零样本学习的开创之作,发表在CVPR2018。本文在语义类别空间中学习信息传递机制,从而可以建模已知类和未知类之间的相互依赖关系。

推荐理由来自:高君宇



报名须知


时间

2019年5月11日(周六)

14:00 -- 17:00


地点

中国科学院自动化所智能化大厦三层第一会议室


报名方式

扫描二维码获取报名链接


活动名额/注意事项

请童鞋们添加小助手并说明:“姓名+报名SFFAI”,可获取报名链接,因为同时添加的人数过多,请大家耐心等待。

1、为确保小范围深入交流,本次活动名额有限;

2、活动采取审核制报名,我们将根据用户研究方向与当期主题的契合度进行筛选,通过审核的用户将收到确认邮件;

3、如您无法按时到场参与活动,请于活动开始前 24 小时在AIDL微信公众号后台留言告知,留言格式为放弃报名 + 报名电话。无故缺席者,将不再享有后续活动的报名资格。



SFFAI招募召集人!

现代科学技术高度社会化,在科学理论与技术方法上更加趋向综合与统一,为了满足人工智能不同领域研究者相互交流、彼此启发的需求,我们发起了SFFAI这个公益活动。SFFAI每周举行一期线下活动,邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果,使专注于各个细分领域的研究者开拓视野、触类旁通。

SFFAI自2018年9月16日举办第一期线下交流,每周一期,风雨无阻,截至目前已举办26期线下交流活动,共有51位讲者分享了他们的真知灼见,来自100多家单位的同学参与了现场交流,通过线上推文、网络直播等形式,50000+人次参与了SFFAI的活动。SFFAI已经成为人工智能学生交流的第一品牌,有一群志同道合的研究生Core-Member伙伴,有一批乐于分享的SPEAKER伙伴,还有许多认可活动价值、多次报名参加现场交流的观众。

我们邀请你一起来组织SFFAI主题论坛,加入SFFAI召集人团队。每个召集人负责1-2期SFFAI主题论坛的组织筹划,我们有一个SFFAI-CORE团队来支持你。一个人付出力所能及,创造一个一己之力不可及的自由丰盛。你带着你的思想,带着你的个性,来组织你感兴趣的SFFAI主题论坛。

当召集人有什么好处?

谁可以当召集人?

怎样才能成为召集人?

为什么要当召集人?

了解我们,加入我们,请点击下方海报!




历史文章推荐:


若您觉得此篇推文不错,麻烦点点在看↓↓

登录查看更多
19

相关内容

专知会员服务
42+阅读 · 2020年7月7日
【ICML2020】持续图神经网络,Continuous Graph Neural Networks
专知会员服务
149+阅读 · 2020年6月28日
注意力图神经网络的多标签文本分类
专知会员服务
111+阅读 · 2020年3月28日
近期必读的5篇AI顶会CVPR 2020 GNN (图神经网络) 相关论文
专知会员服务
78+阅读 · 2020年3月3日
SFFAI 33 报名通知 | 图深度学习专题
人工智能前沿讲习班
6+阅读 · 2019年6月12日
SFFAI 31 报名通知 | 情感语音识别与合成
人工智能前沿讲习班
17+阅读 · 2019年5月30日
HAN:基于双层注意力机制的异质图深度神经网络
黑龙江大学自然语言处理实验室
19+阅读 · 2019年5月7日
已删除
将门创投
4+阅读 · 2019年4月1日
SFFAI 17 报名通知 | 类脑计算介绍及最新进展
人工智能前沿讲习班
10+阅读 · 2019年1月7日
SFFAI 16 报名通知 | 视频生成
人工智能前沿讲习班
8+阅读 · 2018年12月30日
SFFAI15报名通知 | 目标检测专题
人工智能前沿讲习班
4+阅读 · 2018年12月18日
SFFAI13 预告 | 图神经网络最新进展及挑战
人工智能前沿讲习班
10+阅读 · 2018年12月12日
SFFAI13 报名通知 | 图神经网络最新进展及挑战
人工智能前沿讲习班
11+阅读 · 2018年12月10日
SFFAI11 报名通知 | 图像分割专题
人工智能前沿讲习班
9+阅读 · 2018年11月26日
Signed Graph Attention Networks
Arxiv
7+阅读 · 2019年9月5日
Multi-Grained Named Entity Recognition
Arxiv
6+阅读 · 2019年6月20日
Arxiv
7+阅读 · 2019年4月8日
dynnode2vec: Scalable Dynamic Network Embedding
Arxiv
14+阅读 · 2018年12月6日
Arxiv
7+阅读 · 2018年11月27日
Arxiv
24+阅读 · 2018年10月24日
Arxiv
11+阅读 · 2018年5月13日
VIP会员
相关资讯
SFFAI 33 报名通知 | 图深度学习专题
人工智能前沿讲习班
6+阅读 · 2019年6月12日
SFFAI 31 报名通知 | 情感语音识别与合成
人工智能前沿讲习班
17+阅读 · 2019年5月30日
HAN:基于双层注意力机制的异质图深度神经网络
黑龙江大学自然语言处理实验室
19+阅读 · 2019年5月7日
已删除
将门创投
4+阅读 · 2019年4月1日
SFFAI 17 报名通知 | 类脑计算介绍及最新进展
人工智能前沿讲习班
10+阅读 · 2019年1月7日
SFFAI 16 报名通知 | 视频生成
人工智能前沿讲习班
8+阅读 · 2018年12月30日
SFFAI15报名通知 | 目标检测专题
人工智能前沿讲习班
4+阅读 · 2018年12月18日
SFFAI13 预告 | 图神经网络最新进展及挑战
人工智能前沿讲习班
10+阅读 · 2018年12月12日
SFFAI13 报名通知 | 图神经网络最新进展及挑战
人工智能前沿讲习班
11+阅读 · 2018年12月10日
SFFAI11 报名通知 | 图像分割专题
人工智能前沿讲习班
9+阅读 · 2018年11月26日
相关论文
Signed Graph Attention Networks
Arxiv
7+阅读 · 2019年9月5日
Multi-Grained Named Entity Recognition
Arxiv
6+阅读 · 2019年6月20日
Arxiv
7+阅读 · 2019年4月8日
dynnode2vec: Scalable Dynamic Network Embedding
Arxiv
14+阅读 · 2018年12月6日
Arxiv
7+阅读 · 2018年11月27日
Arxiv
24+阅读 · 2018年10月24日
Arxiv
11+阅读 · 2018年5月13日
Top
微信扫码咨询专知VIP会员