【Mila】通用表示Transformer少样本图像分类

少样本分类的目的是在只有少量样本的情况下识别不可见的类。我们考虑了多域少样本图像分类的问题，其中不可见的类和例子来自不同的数据源。人们对这个问题越来越感兴趣，并激发了元数据集等基准的开发。在这种多领域设置的一个关键挑战是有效地整合来自不同训练领域集的特征表示。在这里，我们提出了一个通用表示Transformer(URT)层，该元学会通过动态地重新加权和组合最合适的特定于领域的表示来利用通用特性进行少样本分类。在实验中，我们表明，URT在元数据集上设置了一个新的最先进的结果。具体来说，与竞争方法相比，它在数据源数量最多的情况下实现了最佳性能。我们分析了URT的各种变体，并给出了一个可视化的注意力分数热图，以阐明该模型是如何执行跨领域泛化的。

https://www.zhuanzhi.ai/paper/40930a0aff223a2d2baab3d1d92d7674