在对比学习中,"视图"的选择控制了表示捕获的信息,并影响模型的性能。然而,主流的图对比学习方法通常通过随机破坏或学习来生成视图,这可能会导致基本信息的丢失和语义信息的改变。为对比学习维护输入图基本信息的锚点视图尚未被研究。本文基于图信息瓶颈理论,推导出锚点视图的定义;换句话说,具有输入图基本信息的锚视图被认为具有最小的结构不确定性。在结构熵的指导下,实现了锚点视图SEGA,用于图对比学习。在无监督、半监督和迁移学习下关于图分类的各种基准上广泛验证了所提出的锚点视图,与最先进的方法相比,取得了显著的性能提升。

https://www.zhuanzhi.ai/paper/d5eb57fd9b3067775ff68c61acb6f35e

成为VIP会员查看完整内容
18

相关内容

国际机器学习大会(International Conference on Machine Learning,简称ICML ) 是由国际机器学习学会(IMLS)主办的机器学习国际顶级会议。 2023年7月23日至29日周六在夏威夷会议中心举行。
AAAI2023|图对比学习的模型增强技巧
专知会员服务
34+阅读 · 2023年2月25日
NeurIPS2022|图对比学习的结构公平性初探
专知会员服务
13+阅读 · 2022年10月16日
【ICML2022】模型指导下的蛋白质序列设计的近端探索
专知会员服务
10+阅读 · 2022年7月10日
【ICML2022】MetAug:通过元特征增强的对比学习
专知会员服务
24+阅读 · 2022年5月20日
专知会员服务
34+阅读 · 2021年8月19日
专知会员服务
35+阅读 · 2021年6月19日
专知会员服务
35+阅读 · 2021年6月3日
专知会员服务
80+阅读 · 2021年5月10日
[WWW2021]图结构估计神经网络
专知会员服务
42+阅读 · 2021年3月29日
【NeurIPS2020 】 数据扩充的图对比学习
专知会员服务
48+阅读 · 2020年11月9日
【AAAI2023】用于图对比学习的谱特征增强
专知
18+阅读 · 2022年12月11日
NeurIPS 2022|图对比学习的结构公平性初探
PaperWeekly
0+阅读 · 2022年10月17日
NeurIPS2022|图对比学习的结构公平性初探
专知
0+阅读 · 2022年10月16日
【ICML2022】熵因果推理:图的可辨识性
专知
0+阅读 · 2022年8月6日
【KDD2022】自监督超图Transformer推荐系统
专知
1+阅读 · 2022年8月1日
【MIT】硬负样本的对比学习
专知
13+阅读 · 2020年10月15日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
14+阅读 · 2022年5月14日
Arxiv
14+阅读 · 2021年6月27日
已删除
Arxiv
31+阅读 · 2020年3月23日
Arxiv
15+阅读 · 2020年2月5日
Phase-aware Speech Enhancement with Deep Complex U-Net
VIP会员
相关VIP内容
AAAI2023|图对比学习的模型增强技巧
专知会员服务
34+阅读 · 2023年2月25日
NeurIPS2022|图对比学习的结构公平性初探
专知会员服务
13+阅读 · 2022年10月16日
【ICML2022】模型指导下的蛋白质序列设计的近端探索
专知会员服务
10+阅读 · 2022年7月10日
【ICML2022】MetAug:通过元特征增强的对比学习
专知会员服务
24+阅读 · 2022年5月20日
专知会员服务
34+阅读 · 2021年8月19日
专知会员服务
35+阅读 · 2021年6月19日
专知会员服务
35+阅读 · 2021年6月3日
专知会员服务
80+阅读 · 2021年5月10日
[WWW2021]图结构估计神经网络
专知会员服务
42+阅读 · 2021年3月29日
【NeurIPS2020 】 数据扩充的图对比学习
专知会员服务
48+阅读 · 2020年11月9日
相关资讯
【AAAI2023】用于图对比学习的谱特征增强
专知
18+阅读 · 2022年12月11日
NeurIPS 2022|图对比学习的结构公平性初探
PaperWeekly
0+阅读 · 2022年10月17日
NeurIPS2022|图对比学习的结构公平性初探
专知
0+阅读 · 2022年10月16日
【ICML2022】熵因果推理:图的可辨识性
专知
0+阅读 · 2022年8月6日
【KDD2022】自监督超图Transformer推荐系统
专知
1+阅读 · 2022年8月1日
【MIT】硬负样本的对比学习
专知
13+阅读 · 2020年10月15日
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
微信扫码咨询专知VIP会员