视觉语言模型(如CLIP)的零样本泛化很有前途,这导致了它们在许多下游任务中使用提示学习。以前的工作已经表明,使用熵最小化进行测试时提示调优,以适应未见过的领域中的文本提示。虽然有效,但这忽略了未见过的领域性能下降的关键原因——分布偏移。在这项工作中,我们通过使用提示调优将分布外(OOD)测试样本统计与源数据的统计进行对齐,明确地处理了这个问题。我们使用单个测试样本在测试时通过最小化特征分布偏移来适应多模态提示,以弥合测试领域的差距。根据领域泛化基准进行评估,我们的方法比现有的提示学习技术提高了零样本top1准确性,比基线MaPLe提高了3.08%。在跨10个数据集的未见类别的跨数据集泛化中,与现有的最先进技术相比,我们的方法在所有数据集上都取得了一致的改进。我们的源代码和模型可以在https://jameelhassan.github.io/promptalign/上找到。

成为VIP会员查看完整内容
21

相关内容

【CVPR2022】提示分布学习
专知会员服务
29+阅读 · 2022年5月17日
【NeurIPS2021】用于视频分割的密集无监督学习
专知会员服务
14+阅读 · 2021年11月14日
专知会员服务
18+阅读 · 2021年9月4日
专知会员服务
11+阅读 · 2021年7月16日
专知会员服务
36+阅读 · 2021年3月29日
【AAAI2021】通过离散优化的可解释序列分类
专知会员服务
17+阅读 · 2020年12月5日
【Amazon】使用预先训练的Transformer模型进行数据增强
专知会员服务
56+阅读 · 2020年3月6日
【AAAI2023】用于图对比学习的谱特征增强
专知
18+阅读 · 2022年12月11日
【CVPR2021】跨模态检索的概率嵌入
专知
17+阅读 · 2021年3月2日
【AAAI2021】自监督对应学习的对比转换
专知
12+阅读 · 2020年12月11日
【MIT】硬负样本的对比学习
专知
13+阅读 · 2020年10月15日
使用CNN生成图像先验实现场景的盲图像去模糊
统计学习与视觉计算组
10+阅读 · 2018年6月14日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
Arxiv
142+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
348+阅读 · 2023年3月31日
Arxiv
59+阅读 · 2023年3月26日
Arxiv
122+阅读 · 2023年3月24日
Arxiv
18+阅读 · 2023年3月17日
VIP会员
相关VIP内容
【CVPR2022】提示分布学习
专知会员服务
29+阅读 · 2022年5月17日
【NeurIPS2021】用于视频分割的密集无监督学习
专知会员服务
14+阅读 · 2021年11月14日
专知会员服务
18+阅读 · 2021年9月4日
专知会员服务
11+阅读 · 2021年7月16日
专知会员服务
36+阅读 · 2021年3月29日
【AAAI2021】通过离散优化的可解释序列分类
专知会员服务
17+阅读 · 2020年12月5日
【Amazon】使用预先训练的Transformer模型进行数据增强
专知会员服务
56+阅读 · 2020年3月6日
相关资讯
【AAAI2023】用于图对比学习的谱特征增强
专知
18+阅读 · 2022年12月11日
【CVPR2021】跨模态检索的概率嵌入
专知
17+阅读 · 2021年3月2日
【AAAI2021】自监督对应学习的对比转换
专知
12+阅读 · 2020年12月11日
【MIT】硬负样本的对比学习
专知
13+阅读 · 2020年10月15日
使用CNN生成图像先验实现场景的盲图像去模糊
统计学习与视觉计算组
10+阅读 · 2018年6月14日
相关基金
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员