The adaptive processing of structured data is a long-standing research topic in machine learning that investigates how to automatically learn a mapping from a structured input to outputs of various nature. Recently, there has been an increasing interest in the adaptive processing of graphs, which led to the development of different neural network-based methodologies. In this thesis, we take a different route and develop a Bayesian Deep Learning framework for graph learning. The dissertation begins with a review of the principles over which most of the methods in the field are built, followed by a study on graph classification reproducibility issues. We then proceed to bridge the basic ideas of deep learning for graphs with the Bayesian world, by building our deep architectures in an incremental fashion. This framework allows us to consider graphs with discrete and continuous edge features, producing unsupervised embeddings rich enough to reach the state of the art on several classification tasks. Our approach is also amenable to a Bayesian nonparametric extension that automatizes the choice of almost all model's hyper-parameters. Two real-world applications demonstrate the efficacy of deep learning for graphs. The first concerns the prediction of information-theoretic quantities for molecular simulations with supervised neural models. After that, we exploit our Bayesian models to solve a malware-classification task while being robust to intra-procedural code obfuscation techniques. We conclude the dissertation with an attempt to blend the best of the neural and Bayesian worlds together. The resulting hybrid model is able to predict multimodal distributions conditioned on input graphs, with the consequent ability to model stochasticity and uncertainty better than most works. Overall, we aim to provide a Bayesian perspective into the articulated research field of deep learning for graphs.


翻译:结构化数据的适应处理是机器学习中一个长期的研究课题, 研究如何自动从结构化输入到各种自然产出中进行绘图。 最近, 对图表的适应性处理越来越感兴趣, 这导致不同神经网络方法的发展。 在这个论文中, 我们选择了不同的路线, 并开发了一个用于图形学习的Bayesian深层学习框架。 论文首先审查了在实地建立大多数方法的原则, 之后又研究了图形级的碱性分类再生问题。 我们接着通过逐步建立我们的深层结构, 来将深层的图表的深度精度学习理念与巴伊西亚世界联系起来。 这个框架让我们能够考虑具有离散和连续的边缘特征的图表, 产生足够丰富的、 足以达到图表学习状态的不优于贝伊斯深层深层深层深层学习的模型。 我们的方法也可以是拜伊斯模型的不直径直径直径直径延伸的模型, 使得几乎所有模型的直位值都自动化。 我们的两个实体应用程序展示了我们深层次的混合的数学预估能力, 和最深层的模型在模拟中进行模拟的模型的模型后, 我们的测算的模型的模型, 我们的预判, 我们的模型的模型的预测测测测, 我们的测测测测了世界的模型, 我们的模型的模型, 我们的模型的测, 我们的测测测测测测测测测测测到了。

16
下载
关闭预览

相关内容

【图与几何深度学习】Graph and geometric deep learning,49页ppt
专知会员服务
55+阅读 · 2020年3月19日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
129+阅读 · 2020年3月18日
深度强化学习策略梯度教程,53页ppt
专知会员服务
150+阅读 · 2020年2月1日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
118+阅读 · 2019年10月12日
强化学习最新教程,17页pdf
专知会员服务
124+阅读 · 2019年10月11日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
81+阅读 · 2019年10月9日
ACM MM 2022 Call for Papers
CCF多媒体专委会
4+阅读 · 2022年3月29日
AIART 2022 Call for Papers
CCF多媒体专委会
1+阅读 · 2022年2月13日
强化学习三篇论文 避免遗忘等
CreateAMind
13+阅读 · 2019年5月24日
Hierarchically Structured Meta-learning
CreateAMind
16+阅读 · 2019年5月22日
19篇ICML2019论文摘录选读!
专知
28+阅读 · 2019年4月28日
无监督元学习表示学习
CreateAMind
23+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
35+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
vae 相关论文 表示学习 1
CreateAMind
12+阅读 · 2018年9月6日
强化学习族谱
CreateAMind
20+阅读 · 2017年8月2日
国家自然科学基金
15+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
8+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
Arxiv
54+阅读 · 2022年4月13日
Arxiv
44+阅读 · 2021年5月3日
A Survey on Bayesian Deep Learning
Arxiv
53+阅读 · 2020年7月2日
A Survey of Deep Learning for Scientific Discovery
Arxiv
28+阅读 · 2020年3月26日
Arxiv
23+阅读 · 2020年1月2日
Arxiv
16+阅读 · 2019年3月28日
Arxiv
47+阅读 · 2018年12月11日
VIP会员
相关VIP内容
【图与几何深度学习】Graph and geometric deep learning,49页ppt
专知会员服务
55+阅读 · 2020年3月19日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
129+阅读 · 2020年3月18日
深度强化学习策略梯度教程,53页ppt
专知会员服务
150+阅读 · 2020年2月1日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
118+阅读 · 2019年10月12日
强化学习最新教程,17页pdf
专知会员服务
124+阅读 · 2019年10月11日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
81+阅读 · 2019年10月9日
相关资讯
ACM MM 2022 Call for Papers
CCF多媒体专委会
4+阅读 · 2022年3月29日
AIART 2022 Call for Papers
CCF多媒体专委会
1+阅读 · 2022年2月13日
强化学习三篇论文 避免遗忘等
CreateAMind
13+阅读 · 2019年5月24日
Hierarchically Structured Meta-learning
CreateAMind
16+阅读 · 2019年5月22日
19篇ICML2019论文摘录选读!
专知
28+阅读 · 2019年4月28日
无监督元学习表示学习
CreateAMind
23+阅读 · 2019年1月4日
Unsupervised Learning via Meta-Learning
CreateAMind
35+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
vae 相关论文 表示学习 1
CreateAMind
12+阅读 · 2018年9月6日
强化学习族谱
CreateAMind
20+阅读 · 2017年8月2日
相关论文
Arxiv
54+阅读 · 2022年4月13日
Arxiv
44+阅读 · 2021年5月3日
A Survey on Bayesian Deep Learning
Arxiv
53+阅读 · 2020年7月2日
A Survey of Deep Learning for Scientific Discovery
Arxiv
28+阅读 · 2020年3月26日
Arxiv
23+阅读 · 2020年1月2日
Arxiv
16+阅读 · 2019年3月28日
Arxiv
47+阅读 · 2018年12月11日
相关基金
国家自然科学基金
15+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
8+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员