在许多现代应用中取得显著成功的最主要的技术之一是深度学习。对图像识别、语音处理和文本理解中的海量数据分析的痴迷,促使深度神经网络在不同研究领域的不同学习任务中取得了显著进展。深度学习技术联盟产生了强大的卷积神经网络和新兴的图神经网络。图神经网络(Graph neural networks),简称GNNs,是一种输入包含内部结构关系的深度神经网络。图神经网络(GNNs)的主流找到了图的充分数值表示,这对统计或机器学习模型的预测性能至关重要。图表示学习在现实世界中有许多应用,如药物再利用、蛋白质分类、流行病传播控制和社会网络分析等。在过去五年中,GNN的快速发展过程中,发现了一些设计缺陷,如过度平滑、易受扰动、缺乏表现力和缺乏可解释性。同时,对该研究领域的持续热情为解决更复杂的问题积累了经验,如大小可变图压缩和时变图动态捕获。

https://ses.library.usyd.edu.au/handle/2123/28617

**这篇论文的目标是阐明一些关于数学的概述问题。**其中,图压缩的置换不变设计支持流形学习,鲁棒的图平滑依赖于凸优化原理,高效的动态图表示学习借鉴了信号处理和矩阵分解的随机幂方法。作者认为,深度学习技术的有效性不应该仅仅取决于在特定数据集上的性能,对黑盒模型的修改应该在皮肤层之下进行,并比超参数调整付出更多的努力。深度神经网络的可靠性期待着在严格的数学支持下设计模型,以便有一天“计算机科学”成为真正的科学。

成为VIP会员查看完整内容
31

相关内容

悉尼大学 (University of Sydney) 是澳大利亚的公立大学。悉尼大学是全澳和整个大洋洲第一所大学,创立于1850年,位于新南威尔士州的首府悉尼。悉尼大学目前有51,394在校学生(2013年统计)。悉大是澳大利亚八大名校的成员,在澳大利亚被归为6所砂岩学府之一。悉尼大学同时是环太平洋大学联盟与亚太国际贸易教育暨研究联盟的成员。

Source: 悉尼大学

【宾夕法尼亚博士论文】大规模图机器学习,179页pdf
专知会员服务
37+阅读 · 2022年11月20日
【经典书】数据科学探索,189页pdf
专知会员服务
58+阅读 · 2022年5月16日
专知会员服务
131+阅读 · 2020年8月24日
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
67+阅读 · 2022年9月7日
Arxiv
67+阅读 · 2022年6月30日
Identity-aware Graph Neural Networks
Arxiv
14+阅读 · 2021年1月25日
Arxiv
108+阅读 · 2020年2月5日
Arxiv
34+阅读 · 2020年1月2日
VIP会员
相关基金
国家自然科学基金
6+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
微信扫码咨询专知VIP会员