推断图结构数据的属性(例如分子溶解度)本质上涉及从图到其属性的隐式映射的学习过程。对于诸如图卷积网络(Graph Convolutional Networks,GCNs)等图属性学习器而言,这一学习过程通常代价高昂。为了解决这一问题,我们提出了一种称为图神经教学(Graph Neural Teaching,GraNT)的新范式,该范式通过一种新颖的非参数化教学视角重新诠释了学习过程。 具体而言,该非参数化教学方法为通过示例选择来教授隐式定义(即非参数化)映射提供了理论框架。GraNT 中的这种隐式映射是由密集的图-属性对构成的,教学者(teacher)从中选择一个子集,以促进 GCN 训练的更快收敛。 通过分析图结构在基于参数的梯度下降训练中的影响,并将 GCN 参数更新所驱动的演化过程重新表述为非参数化教学中的函数梯度下降(functional gradient descent),我们首次证明了教授图属性学习器(如 GCNs)在理论上等价于教授具备结构感知能力的非参数化学习器。 这一发现使 GraNT 能够自然地致力于提升图属性学习器的学习效率。实验证明,在保持泛化性能的同时,GraNT 显著减少了训练时间:图级回归任务减少了 36.62%,图级分类减少了 38.19%,节点级回归减少了 30.97%,节点级分类减少了 47.30%。

成为VIP会员查看完整内容
0

相关内容

【CVPR2025】基于组合表示移植的图像编辑方法
专知会员服务
8+阅读 · 4月5日
【WWW2025】基于不确定性的图结构学习
专知会员服务
16+阅读 · 2月20日
【CIKM2023】基于多节点中心子图的对比表示学习
专知会员服务
22+阅读 · 2023年9月1日
【ICML2022】基于自适应上下文池化的高效表示学习
专知会员服务
20+阅读 · 2022年7月9日
【ICML2022】知识图谱上逻辑查询的神经符号模型
专知会员服务
28+阅读 · 2022年5月25日
专知会员服务
27+阅读 · 2021年9月10日
专知会员服务
50+阅读 · 2021年6月2日
【AAAI2023】用于图对比学习的谱特征增强
专知
18+阅读 · 2022年12月11日
【ICML2021】因果匹配领域泛化
专知
12+阅读 · 2021年8月12日
【CVPR2021】跨模态检索的概率嵌入
专知
17+阅读 · 2021年3月2日
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
169+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
461+阅读 · 2023年3月31日
Arxiv
76+阅读 · 2023年3月26日
Arxiv
168+阅读 · 2023年3月24日
Arxiv
18+阅读 · 2021年3月16日
VIP会员
相关VIP内容
【CVPR2025】基于组合表示移植的图像编辑方法
专知会员服务
8+阅读 · 4月5日
【WWW2025】基于不确定性的图结构学习
专知会员服务
16+阅读 · 2月20日
【CIKM2023】基于多节点中心子图的对比表示学习
专知会员服务
22+阅读 · 2023年9月1日
【ICML2022】基于自适应上下文池化的高效表示学习
专知会员服务
20+阅读 · 2022年7月9日
【ICML2022】知识图谱上逻辑查询的神经符号模型
专知会员服务
28+阅读 · 2022年5月25日
专知会员服务
27+阅读 · 2021年9月10日
专知会员服务
50+阅读 · 2021年6月2日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
8+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
相关论文
Arxiv
169+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
461+阅读 · 2023年3月31日
Arxiv
76+阅读 · 2023年3月26日
Arxiv
168+阅读 · 2023年3月24日
Arxiv
18+阅读 · 2021年3月16日
微信扫码咨询专知VIP会员