【ICML2022】长尾识别中分布外检测的部分和非对称对比学习

现有的分布外(OOD)检测方法通常以具有平衡类分布的训练集为基准。然而，在实际应用中，训练集通常具有长尾分布。在这项工作中，我们首先证明了现有的OOD检测方法在训练集为长尾分布时通常会出现显著的性能下降。通过分析，我们认为这是因为模型很难将分布中的少数尾类样本与真实的OOD样本区分开来，使得尾类更容易被错误地检测为OOD。为了解决这一问题，提出了部分和非对称监督对比学习(Partial and Asymmetric Supervised contrast Learning, PASCL)，明确鼓励模型区分尾部类内分布样本和OOD样本。为了进一步提高分布内分类精度，我们提出了辅助分支微调(Auxiliary Branch Finetuning)，它使用BN和分类层的两个独立分支分别进行异常检测和分布内分类。直觉上，分布内异常数据和OOD异常数据具有不同的底层分布。我们的方法在CIFAR10-LT、CIFAR100-LT和ImageNet-LT上的异常检测假阳性率(FPR)分别为1.29%、1.45%、0.69%，分布内分类准确率为3.24%、4.06%、7.89%。代码和预训练的模型可以在https: //github.com/amazon-research/上获得。