图已经成为表示和分析网络复杂模式和丰富信息的自然选择,使得在线页面分类和社交推荐等应用成为可能。在图机器学习任务中,特别是在标记节点有限的情况下,普遍采用了“预训练,微调”范式。然而,这种方法经常表现出预文本任务的训练目标与下游任务的训练目标之间的不一致。这种差距可能导致“负向迁移”问题,即预训练获得的知识对下游任务的性能产生不利影响。自然语言处理(NLP)中基于提示的学习的兴起表明,将“预训练,提示”范式适应于图的潜力**。然而,现有的图提示技术专门针对同质图,忽略了Web图的固有异质性。为了弥补这一差距,我们提出了HetGPT,一个通用的后训练提示框架,用于提高预训练的异质图神经网络(HGNNs)的预测性能**。关键是设计一种新颖的提示函数,整合虚拟类提示和异质特征提示,目的是重构下游任务以模仿预文本任务。此外,HetGPT引入了一种多视图邻域聚合机制,捕捉异质图中复杂的邻域结构。在三个基准数据集上的广泛实验表明HetGPT能够提高最新技术HGNNs在半监督节点分类上的性能。

成为VIP会员查看完整内容
18

相关内容

【NeurIPS2023】用几何协调对抗表示学习视差
专知会员服务
24+阅读 · 2023年10月28日
【CVPR2023】GeoLayoutLM:视觉信息提取的几何预训练
专知会员服务
29+阅读 · 2023年4月25日
【CVPR2023】自异构融合知识挖掘的长尾视觉识别
专知会员服务
15+阅读 · 2023年4月6日
【NeurIPS2022】具有自适应读出的图神经网络
专知会员服务
18+阅读 · 2022年11月11日
【AAAI2022】不确定性感知的多视角表示学习
专知会员服务
44+阅读 · 2022年1月25日
专知会员服务
15+阅读 · 2021年10月11日
专知会员服务
20+阅读 · 2021年8月29日
【NeurIPS2020-MIT】子图神经网络,Subgraph Neural Networks
专知会员服务
45+阅读 · 2020年9月28日
【ICML2020】持续终身学习的神经主题建模
专知会员服务
36+阅读 · 2020年6月22日
【AAAI2023】用于图对比学习的谱特征增强
专知
18+阅读 · 2022年12月11日
【KDD2020】图神经网络生成式预训练
专知
20+阅读 · 2020年7月3日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
8+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
Arxiv
131+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
322+阅读 · 2023年3月31日
Arxiv
53+阅读 · 2023年3月26日
Arxiv
111+阅读 · 2023年3月24日
Arxiv
14+阅读 · 2023年3月17日
VIP会员
相关VIP内容
【NeurIPS2023】用几何协调对抗表示学习视差
专知会员服务
24+阅读 · 2023年10月28日
【CVPR2023】GeoLayoutLM:视觉信息提取的几何预训练
专知会员服务
29+阅读 · 2023年4月25日
【CVPR2023】自异构融合知识挖掘的长尾视觉识别
专知会员服务
15+阅读 · 2023年4月6日
【NeurIPS2022】具有自适应读出的图神经网络
专知会员服务
18+阅读 · 2022年11月11日
【AAAI2022】不确定性感知的多视角表示学习
专知会员服务
44+阅读 · 2022年1月25日
专知会员服务
15+阅读 · 2021年10月11日
专知会员服务
20+阅读 · 2021年8月29日
【NeurIPS2020-MIT】子图神经网络,Subgraph Neural Networks
专知会员服务
45+阅读 · 2020年9月28日
【ICML2020】持续终身学习的神经主题建模
专知会员服务
36+阅读 · 2020年6月22日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
8+阅读 · 2017年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
28+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
8+阅读 · 2014年12月31日
相关论文
微信扫码咨询专知VIP会员