我们提出了提示分布学习，以有效地适应一个预训练的视觉语言模型，以解决下游的识别任务。我们的方法不仅从一些样本中学习低偏差提示，而且还捕获不同提示的分布，以处理不同的视觉表示。这样，我们提供了高质量的任务相关内容，便于识别。这种快速分布学习是通过一种学习提示的输出嵌入而不是输入嵌入的有效方法实现的。因此，我们可以使用高斯分布来有效地建模，并导出有效训练的替代损失。在12个数据集上的大量实验表明，我们的方法始终和显著地优于现有的方法。例如，与人工制作的提示相比，每个类别有一个样本，它的平均结果相对提高了9.1%。
https://www.zhuanzhi.ai/paper/0c6359fedd7bfc3067c0c0ddaf8a29f4
成为VIP会员查看完整内容
Prompt Distribution Learning
相关内容
Arxiv
0+阅读 · 2022年7月5日
Arxiv
0+阅读 · 2022年7月5日
Arxiv
0+阅读 · 2022年7月1日
Arxiv
0+阅读 · 2022年6月30日
相关VIP内容
相关资讯
相关论文
Arxiv
0+阅读 · 2022年7月5日
Arxiv
0+阅读 · 2022年7月5日
Arxiv
0+阅读 · 2022年7月1日
Arxiv
0+阅读 · 2022年6月30日
微信扫码咨询专知VIP会员