最近的对比表示学习方法依赖于估计一个上下文的多个视图之间的互信息。例如,我们可以通过应用数据增强获得给定图像的多个视图,或者我们可以将序列分割成包含序列中某个步骤的过去和未来的视图。MI的下界比较容易优化,但当评估大量的MI有强烈的低估偏见。我们提出将完整的MI估计问题分解为一个较小的估计问题。这个表达式包含一个无条件和条件MI项的和,每个测量总的MI的适度块,这有助于通过对比界近似。为了使和最大化,我们给出了条件MI的一个比较下界,它可以有效地逼近。我们将我们的一般方法称为互信息分解估计(DEMI)。我们证明了DEMI可以捕获比标准的非分解对比界在综合设置更大数量的MI,并在视觉域的对话生成学习更好的表示。

https://www.zhuanzhi.ai/paper/8843e06299bf34535700e85e6c684c37

成为VIP会员查看完整内容
42

相关内容

通过潜在空间的对比损失最大限度地提高相同数据样本的不同扩充视图之间的一致性来学习表示。对比式自监督学习技术是一类很有前途的方法,它通过学习编码来构建表征,编码使两个事物相似或不同
专知会员服务
37+阅读 · 2021年8月20日
专知会员服务
39+阅读 · 2021年8月12日
专知会员服务
21+阅读 · 2021年6月28日
专知会员服务
21+阅读 · 2021年6月26日
专知会员服务
23+阅读 · 2021年6月8日
专知会员服务
34+阅读 · 2021年6月3日
【ICML2021】学习分子构象生成的梯度场
专知会员服务
14+阅读 · 2021年5月30日
专知会员服务
21+阅读 · 2021年5月27日
【ICML2021】具有线性复杂度的Transformer的相对位置编码
专知会员服务
24+阅读 · 2021年5月20日
专知会员服务
79+阅读 · 2021年5月10日
【AAAI2021】自监督对应学习的对比转换
专知
12+阅读 · 2020年12月11日
【NeurIPS2020】无限可能的联合对比学习
专知
3+阅读 · 2020年10月2日
ECCV2020 | SMAP: 单步多人绝对三维姿态估计
学术头条
10+阅读 · 2020年8月9日
【泡泡图灵智库】边缘化采样一致性
泡泡机器人SLAM
23+阅读 · 2019年10月14日
学界 | 稳定、表征丰富的球面变分自编码器
机器之心
5+阅读 · 2018年10月12日
Arxiv
0+阅读 · 2021年8月30日
Crowdsourcing Evaluation of Saliency-based XAI Methods
Arxiv
27+阅读 · 2020年12月24日
Arxiv
12+阅读 · 2020年12月10日
LIMO: Lidar-Monocular Visual Odometry
Arxiv
3+阅读 · 2018年7月19日
VIP会员
相关VIP内容
专知会员服务
37+阅读 · 2021年8月20日
专知会员服务
39+阅读 · 2021年8月12日
专知会员服务
21+阅读 · 2021年6月28日
专知会员服务
21+阅读 · 2021年6月26日
专知会员服务
23+阅读 · 2021年6月8日
专知会员服务
34+阅读 · 2021年6月3日
【ICML2021】学习分子构象生成的梯度场
专知会员服务
14+阅读 · 2021年5月30日
专知会员服务
21+阅读 · 2021年5月27日
【ICML2021】具有线性复杂度的Transformer的相对位置编码
专知会员服务
24+阅读 · 2021年5月20日
专知会员服务
79+阅读 · 2021年5月10日
微信扫码咨询专知VIP会员