【导读】Yann Lecun在纽约大学开设的2020春季《深度学习》课程,干货满满。最新的一期是来自新加坡南洋理工大学的Xavier Bresson教授的图卷积神经网络课程,共76页PPT,非常硬核干货,讲述了GCN近年来的研究进展,包括经典卷积网络、谱图卷积网、 空间域图卷积网、GCN基准等。

图卷积网络

目录:

  • 第一部分传统卷积网
    • 架构
    • 图域
    • 卷积
  • 谱域图卷积网
  • 谱卷积
  • 谱GCN
  • 空间域图卷积网
    • 模板匹配
    • 各向同性 GCNs
    • 各向异性 GCNs
    • GatedGCNs
  • 图神经网络基准
  • 结论

成为VIP会员查看完整内容
0
136

相关内容

自2006年以来,神经网络是引发深度学习革命的模型,但它们的基础可以追溯到20世纪60年代。在这堂课中,DeepMind研究科学家Wojciech Czarnecki将介绍这些模型如何操作、学习和解决问题的基础知识。他还介绍了各种术语/命名惯例,为与会者进一步、更高级的会谈做准备。最后,他简要介绍了神经网络设计和开发的更多研究方向。

成为VIP会员查看完整内容
0
57

芬兰阿尔托大学CSE4890深度学习课程第7讲:图神经网络,由Alexander Ilin主讲,全面详细地介绍了GNN的背景动机、GCN、循环关系网络、通用网络。

成为VIP会员查看完整内容
0
153

本课程涉及深度学习和表示学习的最新技术,重点是有监督和无监督的深度学习、嵌入方法、度量学习、卷积网和递归网,并应用于计算机视觉、自然语言理解和语音识别。

第五讲:

第六讲:

第七讲:

成为VIP会员查看完整内容
0
135

本课程涉及深度学习和表示学习的最新技术,重点是有监督和无监督的深度学习、嵌入方法、度量学习、卷积网和递归网,并应用于计算机视觉、自然语言理解和语音识别。

● Course public folder: bit.ly/DLSP20.

● Class material available .

● Piazza Q&A interface available here. Sign-up token: DLSP20.

Yann LeCun(https://www.zhuanzhi.ai/topic/2001032162118421)

在人工智能研究领域,Yann LeCun、Geoffrey Hinton 和 Yoshua Bengio一直被公认为深度学习三巨头,一起获得2018年图灵奖。

Yann LeCun,自称中文名“杨立昆”,计算机科学家,被誉为“卷积网络之父”,为卷积神经网络(CNN,Convolutional Neural Networks)和图像识别领域做出了重要贡献,以手写字体识别、图像压缩和人工智能硬件等主题发表过 190 多份论文,研发了很多关于深度学习的项目,并且拥有14项相关的美国专利。他同Léon Bottou和Patrick Haffner等人一起创建了DjVu图像压缩技术,同Léon Bottou一起开发了一种开源的Lush语言,比Matlab功能还要强大,并且也是一位Lisp高手。(Backpropagation,简称BP)反向传播这种现阶段常用来训练人工神经网络的算法,就是 LeCun 和其老师“神经网络之父”Geoffrey Hinton 等科学家于 20 世纪 80 年代中期提出的,而后 LeCun 在贝尔实验室将 BP 应用于卷积神经网络中,并将其实用化,推广到各种图像相关任务中。

下载链接:链接: https://pan.baidu.com/s/1KKpgONpJrGuYeyggQSBu6w 提取码: i3ed

成为VIP会员查看完整内容
0
40

简介: 机器学习在处理结构化数据集(例如表格数据)方面历来是成功的。 随着最近的进步,特别是在深度学习方面的进步,现在还存在用于处理图像,文本和语音数据的完善且强大的方法。 但是,许多现实世界的数据并不属于这些类别。 这种数据重要的一种是网络或图形数据,可用于对诸如社交网络,交易流,计算机网络甚至分子相互作用之类的概念进行建模。 使用图,我们可以轻松地表示和捕获对象之间的复杂交互和依赖关系,但同时也提出了一个问题:我们如何将机器学习应用于结构化数据图?

嘉宾介绍: Xavier Bresson,NTU计算机科学副教授。 他是图深度学习领域的领先研究人员,图深度学习是一个新的框架,该框架结合了图和深度学习技术,可以处理多个领域的复杂数据。 演讲的目的是介绍基于图的卷积神经网络体系结构,以及此类问题的应用。

大纲:

  • Motivation
  • Graph Deep Learning
  • Applications
  • DGL
  • Tutorials
  • Trainings
成为VIP会员查看完整内容
0
98

课程介绍: 最近,图神经网络 (GNN) 在各个领域越来越受到欢迎,包括社交网络、知识图谱、推荐系统,甚至生命科学。GNN 在对图形中节点间的依赖关系进行建模方面能力强大,使得图分析相关的研究领域取得了突破性进展。本次课程对比传统的卷积神经网络以及图谱图卷积与空间图卷积,从理论知识入手,并结合相关论文进行详细讲解。

主讲人: Xavier Bresson,人工智能/深度学习方面的顶级研究员,培训师和顾问。在“图深度学习”上的NeurIPS'17和CVPR'17(2019年顶级人工智能会议排名)上的演讲者,在剑桥,加州大学洛杉矶分校,布朗,清华,庞加莱,海德堡等地进行了30多次国际演讲。

课程大纲:

  • 传统卷积神经网络
  • 谱图图卷积
  • 空间图卷积
  • 总结
成为VIP会员查看完整内容
0
215

课程介绍: 最近两年,注意力模型(Attention Model)被广泛使用在自然语言处理、图像识别及语音识别等各种不同类型的深度学习任务中,是深度学习技术中最值得关注与深入了解的核心技术之一,本课程从基础着手,由浅及深,详细介绍注意力神经网络。

主讲人: Xavier Bresson,人工智能/深度学习方面的顶级研究员,培训师和顾问。在“图深度学习”上的NeurIPS'17和CVPR'17(2019年顶级人工智能会议排名)上的演讲者,在剑桥,加州大学洛杉矶分校,布朗,清华,庞加莱,海德堡等地进行了30多次国际演讲。

课程大纲:

  • 神经网络
  • 神经网络sets
  • 记忆网络
  • Transformers
  • seq2seq Transformers
  • 语言模型Transformers
  • 图网络VS神经网络
  • 总结
成为VIP会员查看完整内容
0
120
小贴士
相关论文
Memory Augmented Graph Neural Networks for Sequential Recommendation
Chen Ma,Liheng Ma,Yingxue Zhang,Jianing Sun,Xue Liu,Mark Coates
12+阅读 · 2019年12月26日
EvolveGCN: Evolving Graph Convolutional Networks for Dynamic Graphs
Aldo Pareja,Giacomo Domeniconi,Jie Chen,Tengfei Ma,Toyotaro Suzumura,Hiroki Kanezashi,Tim Kaler,Tao B. Schardl,Charles E. Leiserson
7+阅读 · 2019年11月18日
Xiaoran Xu,Wei Feng,Yunsheng Jiang,Xiaohui Xie,Zhiqing Sun,Zhi-Hong Deng
5+阅读 · 2019年9月27日
Jiani Zhang,Xingjian Shi,Shenglin Zhao,Irwin King
9+阅读 · 2019年5月27日
Fengwen Chen,Shirui Pan,Jing Jiang,Huan Huo,Guodong Long
14+阅读 · 2019年4月4日
FocusNet: An attention-based Fully Convolutional Network for Medical Image Segmentation
Chaitanya Kaul,Suresh Manandhar,Nick Pears
5+阅读 · 2019年2月8日
Keyulu Xu,Weihua Hu,Jure Leskovec,Stefanie Jegelka
18+阅读 · 2018年10月1日
Hierarchical Graph Representation Learning with Differentiable Pooling
Rex Ying,Jiaxuan You,Christopher Morris,Xiang Ren,William L. Hamilton,Jure Leskovec
10+阅读 · 2018年6月26日
Jin-Hwa Kim,Jaehyun Jun,Byoung-Tak Zhang
11+阅读 · 2018年5月21日
Qin Zhou,Heng Fan,Shibao Zheng,Hang Su,Xinzhe Li,Shuang Wu,Haibin Ling
5+阅读 · 2018年4月1日
Top
微信扫码咨询专知VIP会员